ਅੱਪਡੇਟ: ਐਪਲ ਨੇ ਸਰਵਰ ਦੇ ਦੂਜੇ ਨਿਰੀਖਣ ਦਾ ਜ਼ਿਕਰ ਕੀਤਾ, ਅਤੇ ਇੱਕ ਪੇਸ਼ੇਵਰ ਕੰਪਿਊਟਰ ਵਿਜ਼ਨ ਕੰਪਨੀ ਨੇ ਇਸ ਗੱਲ ਦੀ ਇੱਕ ਸੰਭਾਵਨਾ ਦੀ ਰੂਪਰੇਖਾ ਦਿੱਤੀ ਹੈ ਕਿ ਹੇਠਾਂ "ਦੂਜਾ ਨਿਰੀਖਣ ਕਿਵੇਂ ਕੰਮ ਕਰ ਸਕਦਾ ਹੈ" ਵਿੱਚ ਵਰਣਨ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ।
ਡਿਵੈਲਪਰਾਂ ਦੁਆਰਾ ਇਸਦੇ ਇੰਜਨੀਅਰ ਕੀਤੇ ਭਾਗਾਂ ਨੂੰ ਉਲਟਾਉਣ ਤੋਂ ਬਾਅਦ, ਐਪਲ CSAM ਸਿਸਟਮ ਦੇ ਸ਼ੁਰੂਆਤੀ ਸੰਸਕਰਣ ਨੂੰ ਇੱਕ ਮਾਸੂਮ ਚਿੱਤਰ ਨੂੰ ਚਿੰਨ੍ਹਿਤ ਕਰਨ ਲਈ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਧੋਖਾ ਦਿੱਤਾ ਗਿਆ ਹੈ।ਹਾਲਾਂਕਿ, ਐਪਲ ਨੇ ਕਿਹਾ ਕਿ ਅਸਲ ਜੀਵਨ ਵਿੱਚ ਅਜਿਹਾ ਹੋਣ ਤੋਂ ਰੋਕਣ ਲਈ ਇਸਦੇ ਕੋਲ ਵਾਧੂ ਸੁਰੱਖਿਆ ਉਪਾਅ ਹਨ।
ਨਵੀਨਤਮ ਵਿਕਾਸ ਓਪਨ ਸੋਰਸ ਡਿਵੈਲਪਰ ਵੈਬਸਾਈਟ GitHub 'ਤੇ NeuralHash ਐਲਗੋਰਿਦਮ ਪ੍ਰਕਾਸ਼ਤ ਹੋਣ ਤੋਂ ਬਾਅਦ ਹੋਇਆ ਹੈ, ਕੋਈ ਵੀ ਇਸ ਨਾਲ ਪ੍ਰਯੋਗ ਕਰ ਸਕਦਾ ਹੈ ...
ਸਾਰੇ CSAM ਸਿਸਟਮ ਨੈਸ਼ਨਲ ਸੈਂਟਰ ਫਾਰ ਮਿਸਿੰਗ ਐਂਡ ਐਕਸਪਲੋਇਟਿਡ ਚਿਲਡਰਨ (NCMEC) ਵਰਗੀਆਂ ਸੰਸਥਾਵਾਂ ਤੋਂ ਜਾਣੇ ਜਾਂਦੇ ਬਾਲ ਜਿਨਸੀ ਸ਼ੋਸ਼ਣ ਸਮੱਗਰੀ ਦੇ ਡੇਟਾਬੇਸ ਨੂੰ ਆਯਾਤ ਕਰਕੇ ਕੰਮ ਕਰਦੇ ਹਨ।ਡਾਟਾਬੇਸ ਚਿੱਤਰਾਂ ਤੋਂ ਹੈਸ਼ ਜਾਂ ਡਿਜੀਟਲ ਫਿੰਗਰਪ੍ਰਿੰਟਸ ਦੇ ਰੂਪ ਵਿੱਚ ਪ੍ਰਦਾਨ ਕੀਤਾ ਗਿਆ ਹੈ।
ਹਾਲਾਂਕਿ ਜ਼ਿਆਦਾਤਰ ਤਕਨਾਲੋਜੀ ਦਿੱਗਜ ਕਲਾਉਡ ਵਿੱਚ ਅੱਪਲੋਡ ਕੀਤੀਆਂ ਫੋਟੋਆਂ ਨੂੰ ਸਕੈਨ ਕਰਦੇ ਹਨ, ਐਪਲ ਸਟੋਰ ਕੀਤੀ ਫੋਟੋ ਦਾ ਹੈਸ਼ ਮੁੱਲ ਬਣਾਉਣ ਲਈ ਗਾਹਕ ਦੇ ਆਈਫੋਨ 'ਤੇ ਨਿਊਰਲਹੈਸ਼ ਐਲਗੋਰਿਦਮ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ, ਅਤੇ ਫਿਰ ਇਸਦੀ CSAM ਹੈਸ਼ ਮੁੱਲ ਦੀ ਡਾਊਨਲੋਡ ਕੀਤੀ ਕਾਪੀ ਨਾਲ ਤੁਲਨਾ ਕਰਦਾ ਹੈ।
ਕੱਲ੍ਹ, ਇੱਕ ਡਿਵੈਲਪਰ ਨੇ ਐਪਲ ਦੇ ਐਲਗੋਰਿਦਮ ਨੂੰ ਉਲਟਾਉਣ ਦਾ ਦਾਅਵਾ ਕੀਤਾ ਅਤੇ ਕੋਡ ਨੂੰ GitHub ਨੂੰ ਜਾਰੀ ਕੀਤਾ- ਇਸ ਦਾਅਵੇ ਦੀ ਐਪਲ ਦੁਆਰਾ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਪੁਸ਼ਟੀ ਕੀਤੀ ਗਈ ਸੀ।
GitHib ਦੇ ਜਾਰੀ ਹੋਣ ਤੋਂ ਕੁਝ ਘੰਟਿਆਂ ਦੇ ਅੰਦਰ, ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਇੱਕ ਇਰਾਦਤਨ ਗਲਤ ਸਕਾਰਾਤਮਕ-ਦੋ ਪੂਰੀ ਤਰ੍ਹਾਂ ਵੱਖਰੀਆਂ ਤਸਵੀਰਾਂ ਬਣਾਉਣ ਲਈ ਐਲਗੋਰਿਦਮ ਦੀ ਸਫਲਤਾਪੂਰਵਕ ਵਰਤੋਂ ਕੀਤੀ ਜੋ ਇੱਕੋ ਹੈਸ਼ ਮੁੱਲ ਨੂੰ ਤਿਆਰ ਕਰਦੇ ਹਨ।ਇਸ ਨੂੰ ਟੱਕਰ ਕਿਹਾ ਜਾਂਦਾ ਹੈ।
ਅਜਿਹੇ ਸਿਸਟਮਾਂ ਲਈ, ਟਕਰਾਉਣ ਦਾ ਖਤਰਾ ਹਮੇਸ਼ਾ ਹੁੰਦਾ ਹੈ, ਕਿਉਂਕਿ ਹੈਸ਼ ਬੇਸ਼ੱਕ ਚਿੱਤਰ ਦੀ ਇੱਕ ਬਹੁਤ ਹੀ ਸਰਲ ਪ੍ਰਤੀਨਿਧਤਾ ਹੈ, ਪਰ ਇਹ ਹੈਰਾਨੀ ਦੀ ਗੱਲ ਹੈ ਕਿ ਕੋਈ ਵਿਅਕਤੀ ਇੰਨੀ ਜਲਦੀ ਚਿੱਤਰ ਬਣਾ ਸਕਦਾ ਹੈ।
ਇੱਥੇ ਜਾਣਬੁੱਝ ਕੇ ਕੀਤੀ ਗਈ ਟੱਕਰ ਕੇਵਲ ਧਾਰਨਾ ਦਾ ਸਬੂਤ ਹੈ।ਡਿਵੈਲਪਰਾਂ ਕੋਲ CSAM ਹੈਸ਼ ਡੇਟਾਬੇਸ ਤੱਕ ਪਹੁੰਚ ਨਹੀਂ ਹੈ, ਜਿਸ ਲਈ ਰੀਅਲ-ਟਾਈਮ ਸਿਸਟਮ ਵਿੱਚ ਝੂਠੇ ਸਕਾਰਾਤਮਕ ਬਣਾਉਣ ਦੀ ਲੋੜ ਹੋਵੇਗੀ, ਪਰ ਇਹ ਸਾਬਤ ਕਰਦਾ ਹੈ ਕਿ ਟਕਰਾਅ ਦੇ ਹਮਲੇ ਸਿਧਾਂਤ ਵਿੱਚ ਮੁਕਾਬਲਤਨ ਆਸਾਨ ਹਨ।
ਐਪਲ ਨੇ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਪੁਸ਼ਟੀ ਕੀਤੀ ਕਿ ਐਲਗੋਰਿਦਮ ਆਪਣੇ ਸਿਸਟਮ ਦਾ ਆਧਾਰ ਹੈ, ਪਰ ਮਦਰਬੋਰਡ ਨੂੰ ਕਿਹਾ ਕਿ ਇਹ ਅੰਤਿਮ ਸੰਸਕਰਣ ਨਹੀਂ ਹੈ।ਕੰਪਨੀ ਨੇ ਇਹ ਵੀ ਕਿਹਾ ਕਿ ਉਹ ਕਦੇ ਵੀ ਇਸ ਨੂੰ ਗੁਪਤ ਰੱਖਣ ਦਾ ਇਰਾਦਾ ਨਹੀਂ ਰੱਖਦੀ ਸੀ।
ਐਪਲ ਨੇ ਮਦਰਬੋਰਡ ਨੂੰ ਇੱਕ ਈਮੇਲ ਵਿੱਚ ਦੱਸਿਆ ਕਿ GitHub 'ਤੇ ਉਪਭੋਗਤਾ ਦੁਆਰਾ ਵਿਸ਼ਲੇਸ਼ਣ ਕੀਤਾ ਗਿਆ ਸੰਸਕਰਣ ਇੱਕ ਆਮ ਸੰਸਕਰਣ ਹੈ, iCloud ਫੋਟੋ CSAM ਖੋਜ ਲਈ ਵਰਤਿਆ ਜਾਣ ਵਾਲਾ ਅੰਤਿਮ ਸੰਸਕਰਣ ਨਹੀਂ ਹੈ।ਐਪਲ ਨੇ ਕਿਹਾ ਕਿ ਇਸ ਨੇ ਐਲਗੋਰਿਦਮ ਦਾ ਵੀ ਖੁਲਾਸਾ ਕੀਤਾ ਹੈ।
"NeuralHash ਐਲਗੋਰਿਦਮ [...] ਦਸਤਖਤ ਕੀਤੇ ਓਪਰੇਟਿੰਗ ਸਿਸਟਮ ਕੋਡ [ਅਤੇ] ਸੁਰੱਖਿਆ ਖੋਜਕਰਤਾ ਇਹ ਪੁਸ਼ਟੀ ਕਰ ਸਕਦੇ ਹਨ ਕਿ ਇਸਦਾ ਵਿਵਹਾਰ ਵਰਣਨ ਦੇ ਅਨੁਕੂਲ ਹੈ," ਇੱਕ ਐਪਲ ਦਸਤਾਵੇਜ਼ ਨੇ ਲਿਖਿਆ।
ਕੰਪਨੀ ਨੇ ਅੱਗੇ ਕਿਹਾ ਕਿ ਇੱਥੇ ਦੋ ਹੋਰ ਕਦਮ ਹਨ: ਆਪਣੇ ਸਰਵਰ 'ਤੇ ਸੈਕੰਡਰੀ (ਗੁਪਤ) ਮੈਚਿੰਗ ਸਿਸਟਮ ਚਲਾਉਣਾ, ਅਤੇ ਮੈਨੂਅਲ ਸਮੀਖਿਆ।
ਐਪਲ ਨੇ ਇਹ ਵੀ ਕਿਹਾ ਕਿ ਉਪਭੋਗਤਾ 30-ਮੈਚ ਥ੍ਰੈਸ਼ਹੋਲਡ ਨੂੰ ਪਾਸ ਕਰਨ ਤੋਂ ਬਾਅਦ, ਐਪਲ ਦੇ ਸਰਵਰਾਂ 'ਤੇ ਚੱਲ ਰਿਹਾ ਇੱਕ ਦੂਜਾ ਗੈਰ-ਜਨਤਕ ਐਲਗੋਰਿਦਮ ਨਤੀਜਿਆਂ ਦੀ ਜਾਂਚ ਕਰੇਗਾ।
"ਇਸ ਸੁਤੰਤਰ ਹੈਸ਼ ਨੂੰ ਇਸ ਸੰਭਾਵਨਾ ਨੂੰ ਰੱਦ ਕਰਨ ਲਈ ਚੁਣਿਆ ਗਿਆ ਸੀ ਕਿ ਗਲਤ ਨਿਊਰਲਹੈਸ਼ ਗੈਰ-CSAM ਚਿੱਤਰਾਂ ਦੇ ਵਿਰੋਧੀ ਦਖਲਅੰਦਾਜ਼ੀ ਦੇ ਕਾਰਨ ਡਿਵਾਈਸ 'ਤੇ ਐਨਕ੍ਰਿਪਟਡ CSAM ਡੇਟਾਬੇਸ ਨਾਲ ਮੇਲ ਖਾਂਦਾ ਹੈ ਅਤੇ ਮੈਚਿੰਗ ਥ੍ਰੈਸ਼ਹੋਲਡ ਨੂੰ ਪਾਰ ਕਰਦਾ ਹੈ।"
ਰੋਬੋਫਲੋ ਦੇ ਬ੍ਰੈਡ ਡਵਾਇਰ ਨੇ ਟੱਕਰ ਦੇ ਹਮਲੇ ਲਈ ਸੰਕਲਪ ਦੇ ਸਬੂਤ ਵਜੋਂ ਪੋਸਟ ਕੀਤੀਆਂ ਦੋ ਤਸਵੀਰਾਂ ਵਿਚਕਾਰ ਆਸਾਨੀ ਨਾਲ ਫਰਕ ਕਰਨ ਦਾ ਤਰੀਕਾ ਲੱਭਿਆ।
ਮੈਂ ਉਤਸੁਕ ਹਾਂ ਕਿ ਇਹ ਚਿੱਤਰ ਇੱਕ ਸਮਾਨ ਪਰ ਵੱਖਰੇ ਨਿਊਰਲ ਫੀਚਰ ਐਕਸਟਰੈਕਟਰ ਓਪਨਏਆਈ ਦੇ CLIP ਵਿੱਚ ਕਿਵੇਂ ਦਿਖਾਈ ਦਿੰਦੇ ਹਨ।CLIP NeuralHash ਦੇ ਸਮਾਨ ਕੰਮ ਕਰਦਾ ਹੈ;ਇਹ ਇੱਕ ਚਿੱਤਰ ਲੈਂਦਾ ਹੈ ਅਤੇ ਵਿਸ਼ੇਸ਼ਤਾ ਵੈਕਟਰਾਂ ਦਾ ਇੱਕ ਸੈੱਟ ਤਿਆਰ ਕਰਨ ਲਈ ਇੱਕ ਨਿਊਰਲ ਨੈਟਵਰਕ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ ਜੋ ਚਿੱਤਰ ਦੀ ਸਮੱਗਰੀ ਨੂੰ ਮੈਪ ਕਰਦੇ ਹਨ।
ਪਰ OpenAI ਦਾ ਨੈੱਟਵਰਕ ਵੱਖਰਾ ਹੈ।ਇਹ ਇੱਕ ਆਮ ਮਾਡਲ ਹੈ ਜੋ ਚਿੱਤਰਾਂ ਅਤੇ ਟੈਕਸਟ ਵਿਚਕਾਰ ਮੈਪ ਕਰ ਸਕਦਾ ਹੈ।ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਅਸੀਂ ਇਸਨੂੰ ਮਨੁੱਖੀ-ਸਮਝਣ ਯੋਗ ਚਿੱਤਰ ਜਾਣਕਾਰੀ ਨੂੰ ਐਕਸਟਰੈਕਟ ਕਰਨ ਲਈ ਵਰਤ ਸਕਦੇ ਹਾਂ।
ਮੈਂ ਇਹ ਦੇਖਣ ਲਈ ਕਿ ਕੀ ਇਹ ਵੀ ਮੂਰਖ ਬਣਾਇਆ ਗਿਆ ਸੀ, ਮੈਂ CLIP ਰਾਹੀਂ ਉਪਰੋਕਤ ਦੋ ਟੱਕਰ ਚਿੱਤਰਾਂ ਨੂੰ ਚਲਾਇਆ।ਛੋਟਾ ਜਵਾਬ ਹੈ: ਨਹੀਂ।ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਐਪਲ ਨੂੰ ਖੋਜੀਆਂ ਗਈਆਂ CSAM ਚਿੱਤਰਾਂ 'ਤੇ ਇੱਕ ਦੂਜੀ ਵਿਸ਼ੇਸ਼ਤਾ ਐਕਸਟਰੈਕਟਰ ਨੈਟਵਰਕ (ਜਿਵੇਂ ਕਿ CLIP) ਨੂੰ ਲਾਗੂ ਕਰਨ ਦੇ ਯੋਗ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ ਤਾਂ ਜੋ ਇਹ ਪਤਾ ਲਗਾਇਆ ਜਾ ਸਕੇ ਕਿ ਉਹ ਅਸਲੀ ਹਨ ਜਾਂ ਨਕਲੀ।ਇੱਕੋ ਸਮੇਂ ਦੋ ਨੈਟਵਰਕਾਂ ਨੂੰ ਧੋਖਾ ਦੇਣ ਵਾਲੀਆਂ ਤਸਵੀਰਾਂ ਬਣਾਉਣਾ ਬਹੁਤ ਜ਼ਿਆਦਾ ਮੁਸ਼ਕਲ ਹੈ।
ਅੰਤ ਵਿੱਚ, ਜਿਵੇਂ ਕਿ ਪਹਿਲਾਂ ਦੱਸਿਆ ਗਿਆ ਹੈ, ਚਿੱਤਰਾਂ ਦੀ ਦਸਤੀ ਸਮੀਖਿਆ ਕੀਤੀ ਜਾਂਦੀ ਹੈ ਤਾਂ ਜੋ ਪੁਸ਼ਟੀ ਕੀਤੀ ਜਾ ਸਕੇ ਕਿ ਉਹ CSAM ਹਨ।
ਇੱਕ ਸੁਰੱਖਿਆ ਖੋਜਕਰਤਾ ਨੇ ਕਿਹਾ ਕਿ ਸਿਰਫ ਅਸਲ ਜੋਖਮ ਇਹ ਹੈ ਕਿ ਜੋ ਵੀ ਐਪਲ ਨੂੰ ਤੰਗ ਕਰਨਾ ਚਾਹੁੰਦਾ ਹੈ, ਉਹ ਮਨੁੱਖੀ ਸਮੀਖਿਅਕਾਂ ਨੂੰ ਗਲਤ ਸਕਾਰਾਤਮਕ ਪ੍ਰਦਾਨ ਕਰ ਸਕਦਾ ਹੈ।
“ਐਪਲ ਨੇ ਅਸਲ ਵਿੱਚ ਇਸ ਸਿਸਟਮ ਨੂੰ ਡਿਜ਼ਾਈਨ ਕੀਤਾ ਹੈ, ਇਸਲਈ ਹੈਸ਼ ਫੰਕਸ਼ਨ ਨੂੰ ਗੁਪਤ ਰੱਖਣ ਦੀ ਲੋੜ ਨਹੀਂ ਹੈ, ਕਿਉਂਕਿ ਸਿਰਫ ਇੱਕ ਚੀਜ਼ ਜੋ ਤੁਸੀਂ 'ਗੈਰ-CSAM as CSAM' ਨਾਲ ਕਰ ਸਕਦੇ ਹੋ ਉਹ ਹੈ ਐਪਲ ਦੀ ਜਵਾਬੀ ਟੀਮ ਨੂੰ ਕੁਝ ਜੰਕ ਚਿੱਤਰਾਂ ਨਾਲ ਨਾਰਾਜ਼ ਕਰਨਾ ਜਦੋਂ ਤੱਕ ਉਹ ਫਿਲਟਰਾਂ ਨੂੰ ਖਤਮ ਕਰਨ ਲਈ ਲਾਗੂ ਨਹੀਂ ਕਰਦੇ। ਕੈਲੀਫੋਰਨੀਆ ਯੂਨੀਵਰਸਿਟੀ, ਬਰਕਲੇ ਦੇ ਇੰਸਟੀਚਿਊਟ ਆਫ਼ ਇੰਟਰਨੈਸ਼ਨਲ ਕੰਪਿਊਟਰ ਸਾਇੰਸ ਦੇ ਸੀਨੀਅਰ ਖੋਜਕਰਤਾ ਨਿਕੋਲਸ ਵੀਵਰ ਨੇ ਇੱਕ ਔਨਲਾਈਨ ਚੈਟ ਵਿੱਚ ਮਦਰਬੋਰਡ ਨੂੰ ਦੱਸਿਆ।
ਗੋਪਨੀਯਤਾ ਅੱਜ ਦੇ ਸੰਸਾਰ ਵਿੱਚ ਵੱਧ ਰਹੀ ਚਿੰਤਾ ਦਾ ਮੁੱਦਾ ਹੈ।ਸਾਡੇ ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼ਾਂ ਵਿੱਚ ਗੋਪਨੀਯਤਾ, ਸੁਰੱਖਿਆ ਆਦਿ ਨਾਲ ਸਬੰਧਤ ਸਾਰੀਆਂ ਰਿਪੋਰਟਾਂ ਦਾ ਪਾਲਣ ਕਰੋ।
ਬੈਨ ਲਵਜੋਏ ਇੱਕ ਬ੍ਰਿਟਿਸ਼ ਤਕਨੀਕੀ ਲੇਖਕ ਅਤੇ 9to5Mac ਲਈ EU ਸੰਪਾਦਕ ਹੈ।ਉਹ ਆਪਣੇ ਕਾਲਮਾਂ ਅਤੇ ਡਾਇਰੀ ਲੇਖਾਂ ਲਈ ਜਾਣਿਆ ਜਾਂਦਾ ਹੈ, ਵਧੇਰੇ ਵਿਆਪਕ ਸਮੀਖਿਆਵਾਂ ਪ੍ਰਾਪਤ ਕਰਨ ਲਈ ਸਮੇਂ ਦੇ ਨਾਲ ਐਪਲ ਉਤਪਾਦਾਂ ਦੇ ਨਾਲ ਆਪਣੇ ਅਨੁਭਵ ਦੀ ਪੜਚੋਲ ਕਰਦਾ ਹੈ।ਉਹ ਨਾਵਲ ਵੀ ਲਿਖਦਾ ਹੈ, ਦੋ ਤਕਨੀਕੀ ਥ੍ਰਿਲਰ ਹਨ, ਕੁਝ ਛੋਟੀਆਂ ਵਿਗਿਆਨ ਗਲਪ ਫਿਲਮਾਂ ਅਤੇ ਇੱਕ ਰੋਮ-ਕਾਮ!
ਪੋਸਟ ਟਾਈਮ: ਅਗਸਤ-20-2021