ਟੇਨੇਸੀ ਦੀ ਦਾਦੀ ਨੂੰ ਏਆਈ ਦੇ ਚਿਹਰੇ ਦੀ ਪਛਾਣ ਦੀ ਗਲਤੀ ਦੇ ਬਾਅਦ ਉਸ ਨੂੰ ਧੋਖਾਧੜੀ ਨਾਲ ਜੋੜਨ ਤੋਂ ਬਾਅਦ ਜੇਲ੍ਹ ਭੇਜ ਦਿੱਤਾ ਗਿਆ

ਇੱਕ ਟੈਨੇਸੀ ਦਾਦੀ ਦੀ ਗ੍ਰਿਫਤਾਰੀ ਨੇ AI ਦੀ ਗਲਤ ਨਜ਼ਰ ਦਾ ਪਰਦਾਫਾਸ਼ ਕੀਤਾ

ਕਲਪਨਾ ਕਰੋ ਕਿ ਪੁਲਿਸ ਅਫਸਰਾਂ ਵੱਲੋਂ ਤੁਹਾਡੇ ਦਰਵਾਜ਼ੇ 'ਤੇ ਦਸਤਕ ਦਿੱਤੀ ਗਈ ਹੈ ਜੋ ਜ਼ੋਰ ਦਿੰਦੇ ਹਨ ਕਿ ਤੁਸੀਂ ਇੱਕ ਅਪਰਾਧੀ ਹੋ, ਸਬੂਤ ਪੇਸ਼ ਕਰਨਾ ਜੋ ਤੁਸੀਂ ਜਾਣਦੇ ਹੋ ਅਸੰਭਵ ਹੈ। ਇਹ ਟੈਨੇਸੀ ਦੀ ਦਾਦੀ ਲਈ ਅਸਲੀਅਤ ਸੀ, ਜਿਸ ਨੂੰ ਗਲਤ ਤਰੀਕੇ ਨਾਲ ਗ੍ਰਿਫਤਾਰ ਕੀਤਾ ਗਿਆ ਸੀ ਅਤੇ ਉਸ ਅਪਰਾਧ ਲਈ ਜੇਲ ਭੇਜ ਦਿੱਤਾ ਗਿਆ ਸੀ, ਜੋ ਉਸਨੇ ਨਹੀਂ ਕੀਤਾ ਸੀ, ਸਿਰਫ ਇੱਕ ਚਿਹਰੇ ਦੀ ਪਛਾਣ ਐਲਗੋਰਿਦਮ ਦੀ ਗਲਤ ਸਿਫਾਰਸ਼ ਦੇ ਅਧਾਰ ਤੇ। ਉਸ ਦਾ ਮਾਮਲਾ ਕੋਈ ਅਲੱਗ-ਥਲੱਗ ਘਟਨਾ ਨਹੀਂ ਹੈ, ਪਰ ਇੱਕ ਸਖ਼ਤ, ਮਨੁੱਖੀ ਚੇਤਾਵਨੀ ਹੈ ਕਿ ਕੀ ਹੁੰਦਾ ਹੈ ਜਦੋਂ ਗੈਰ-ਨਿਯੰਤ੍ਰਿਤ ਨਕਲੀ ਬੁੱਧੀ ਨੂੰ ਲੋੜੀਂਦੀ ਨਿਗਰਾਨੀ ਤੋਂ ਬਿਨਾਂ ਕਾਨੂੰਨ ਲਾਗੂ ਕਰਨ ਵਰਗੀਆਂ ਨਾਜ਼ੁਕ ਪ੍ਰਣਾਲੀਆਂ ਵਿੱਚ ਜੋੜਿਆ ਜਾਂਦਾ ਹੈ। ਵਪਾਰ ਦੀ ਦੁਨੀਆ ਵਿੱਚ, ਜਿੱਥੇ ਮੇਵੇਜ਼ ਚੈਂਪੀਅਨਜ਼ ਨੇ ਸੁਚਾਰੂ ਅਤੇ ਨੈਤਿਕ ਸੰਚਾਲਨ ਪ੍ਰਕਿਰਿਆਵਾਂ ਨੂੰ ਸੁਚਾਰੂ ਬਣਾਇਆ, ਇਹ ਕਹਾਣੀ ਇੱਕ ਵਿਸ਼ਵਵਿਆਪੀ ਸੱਚ ਨੂੰ ਰੇਖਾਂਕਿਤ ਕਰਦੀ ਹੈ: ਜਿਸ ਤਕਨਾਲੋਜੀ 'ਤੇ ਅਸੀਂ ਭਰੋਸਾ ਕਰਦੇ ਹਾਂ ਉਹ ਸਹੀ, ਜਵਾਬਦੇਹ ਅਤੇ ਪਾਰਦਰਸ਼ੀ ਹੋਣੀ ਚਾਹੀਦੀ ਹੈ।

ਗਲਤ ਪਛਾਣ ਦਾ ਮਾਮਲਾ

ਇਹ ਘਟਨਾ ਲੁਈਸਿਆਨਾ ਵਿੱਚ ਇੱਕ ਚੋਰੀ ਦੀ ਜਾਂਚ ਨਾਲ ਸ਼ੁਰੂ ਹੋਈ। ਅਧਿਕਾਰੀ, ਧੁੰਦਲੀ ਨਿਗਰਾਨੀ ਫੁਟੇਜ ਤੋਂ ਇੱਕ ਸ਼ੱਕੀ ਦੀ ਪਛਾਣ ਕਰਨ ਲਈ ਸੰਘਰਸ਼ ਕਰ ਰਹੇ ਹਨ, ਕਥਿਤ ਤੌਰ 'ਤੇ ਚਿਹਰੇ ਦੀ ਪਛਾਣ ਕਰਨ ਵਾਲੀ ਤਕਨਾਲੋਜੀ ਵੱਲ ਮੁੜ ਗਏ ਹਨ। ਐਲਗੋਰਿਦਮ, ਮਨੁੱਖੀ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਦਾ ਨਕਸ਼ਾ ਅਤੇ ਮੇਲ ਕਰਨ ਲਈ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ, ਇੱਕ ਲੀਡ ਪੈਦਾ ਕਰਦਾ ਹੈ: ਇਸ ਨੇ ਸੁਝਾਅ ਦਿੱਤਾ ਕਿ ਵੀਡੀਓ ਵਿੱਚ ਔਰਤ ਟੈਨੇਸੀ ਵਿੱਚ 400 ਮੀਲ ਤੋਂ ਵੱਧ ਦੂਰ ਰਹਿਣ ਵਾਲੀ ਇੱਕ ਦਾਦੀ ਸੀ। ਇੱਕ ਠੋਸ ਅਲੀਬੀ ਹੋਣ ਦੇ ਬਾਵਜੂਦ ਅਤੇ ਬਹੁਤ ਸਾਰੇ ਲੋਕਾਂ ਦੁਆਰਾ ਸਾਂਝੀਆਂ ਕੀਤੀਆਂ ਸਤਹੀ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਤੋਂ ਪਰੇ ਕੋਈ ਸਮਾਨਤਾ ਨਾ ਹੋਣ ਦੇ ਬਾਵਜੂਦ, ਉਸਨੂੰ ਉਸਦੇ ਪਰਿਵਾਰ ਦੇ ਸਾਹਮਣੇ ਗ੍ਰਿਫਤਾਰ ਕੀਤਾ ਗਿਆ ਅਤੇ ਜੇਲ੍ਹ ਵਿੱਚ ਦਿਨ ਬਿਤਾਏ। ਘਟਨਾ ਦਾ ਸਦਮਾ ਅਤੇ ਅਪਮਾਨ ਅਲਗੋਰਿਦਮਿਕ ਸੁਝਾਅ ਅਤੇ ਅਸਲ ਸੱਚ ਦੇ ਵਿਚਕਾਰ ਇੱਕ ਭਿਆਨਕ ਪਾੜੇ ਨੂੰ ਉਜਾਗਰ ਕਰਦਾ ਹੈ, ਇੱਕ ਪਾੜਾ ਜਿਸ ਵਿੱਚ ਇੱਕ ਮਨੁੱਖੀ ਜੀਵਨ ਡਿੱਗ ਗਿਆ।

AI-ਪਾਵਰਡ ਪੁਲਿਸਿੰਗ ਵਿੱਚ ਸਿਸਟਮਿਕ ਖਾਮੀਆਂ

ਇਹ ਕੇਸ AI ਦੇ ਮੌਜੂਦਾ ਉਪਯੋਗ ਵਿੱਚ ਕਈ ਗੰਭੀਰ ਕਮਜ਼ੋਰੀਆਂ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ, ਖਾਸ ਤੌਰ 'ਤੇ ਚਿਹਰੇ ਦੀ ਪਛਾਣ:

• ਸਿਖਲਾਈ ਡੇਟਾ ਵਿੱਚ ਪੱਖਪਾਤ: ਬਹੁਤ ਸਾਰੇ ਐਲਗੋਰਿਦਮ ਗੈਰ-ਵਿਭਿੰਨ ਡੇਟਾਸੈਟਾਂ 'ਤੇ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ ਹੁੰਦੇ ਹਨ, ਜਿਸ ਨਾਲ ਔਰਤਾਂ ਅਤੇ ਰੰਗਾਂ ਵਾਲੇ ਲੋਕਾਂ ਲਈ ਉੱਚ ਗਲਤੀ ਦਰਾਂ ਹੁੰਦੀਆਂ ਹਨ।
• ਅਨੁਕੂਲਤਾ ਦਾ ਭੁਲੇਖਾ: ਪੁਲਿਸ AI ਆਉਟਪੁੱਟ ਨੂੰ ਇੱਕ ਨੁਕਸਦਾਰ ਲੀਡ, ਸ਼ਾਰਟ-ਸਰਕਟਿੰਗ ਸਹੀ ਜਾਂਚ ਕਾਰਜ ਦੀ ਬਜਾਏ ਨਿਸ਼ਚਤ ਸਬੂਤ ਵਜੋਂ ਮੰਨ ਸਕਦੀ ਹੈ।
• ਨਿਯਮਾਂ ਦੀ ਘਾਟ: ਸਥਾਨਕ ਕਨੂੰਨਾਂ ਦੇ ਪੈਚਵਰਕ ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਇਸ ਤਕਨਾਲੋਜੀ ਦੀ ਵਰਤੋਂ ਕਦੋਂ ਅਤੇ ਕਿਵੇਂ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ, ਅਤੇ ਇਸਦੀ ਸ਼ੁੱਧਤਾ ਦੀ ਆਡਿਟ ਕਰਨ ਲਈ ਬਹੁਤ ਘੱਟ ਮਾਪਦੰਡ ਹਨ।
• ਜਵਾਬਦੇਹੀ ਅੰਤਰ: ਜਦੋਂ ਕੋਈ ਤਰੁੱਟੀ ਵਾਪਰਦੀ ਹੈ, ਤਾਂ ਅਕਸਰ ਇਹ ਅਸਪਸ਼ਟ ਹੁੰਦਾ ਹੈ ਕਿ ਕੌਣ ਜ਼ਿੰਮੇਵਾਰ ਹੈ—ਸਾਫਟਵੇਅਰ ਡਿਵੈਲਪਰ, ਪੁਲਿਸ ਵਿਭਾਗ, ਜਾਂ ਖੁਦ ਐਲਗੋਰਿਦਮ।

ਇਹ ਪਹੁੰਚ ਇਸ ਗੱਲ ਦੇ ਸਿੱਧੇ ਵਿਰੋਧ ਵਿੱਚ ਹੈ ਕਿ ਕਿਵੇਂ ਮਜਬੂਤ ਸੰਚਾਲਨ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਕੰਮ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ। ਮੇਵੇਜ਼ ਵਰਗੇ ਪਲੇਟਫਾਰਮ ਭਰੋਸੇਯੋਗਤਾ ਅਤੇ ਸ਼ੁੱਧਤਾ 'ਤੇ ਬਣਾਏ ਗਏ ਹਨ, ਇਹ ਸੁਨਿਸ਼ਚਿਤ ਕਰਦੇ ਹੋਏ ਕਿ ਡੇਟਾ ਦੁਆਰਾ ਸੰਚਾਲਿਤ ਫੈਸਲੇ ਪ੍ਰਮਾਣਿਤ ਜਾਣਕਾਰੀ 'ਤੇ ਅਧਾਰਤ ਹਨ, ਨਾ ਕਿ ਸੰਭਾਵੀ ਅਨੁਮਾਨਾਂ ਜੋ ਜੀਵਨ ਅਤੇ ਕਾਰਜਾਂ ਨੂੰ ਪਟੜੀ ਤੋਂ ਉਤਾਰ ਸਕਦੇ ਹਨ।

ਨੈਤਿਕ ਤਕਨਾਲੋਜੀ ਅਤੇ ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ ਲਈ ਇੱਕ ਕਾਲ

ਇਸ ਦਾ ਹੱਲ ਟੈਕਨਾਲੋਜੀ ਨੂੰ ਛੱਡਣਾ ਨਹੀਂ ਹੈ ਬਲਕਿ ਇਸਨੂੰ ਸਖ਼ਤ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਨਾਲ ਲਾਗੂ ਕਰਨਾ ਹੈ। ਕਨੂੰਨ ਲਾਗੂ ਕਰਨ ਲਈ, ਇਸਦਾ ਮਤਲਬ ਇਹ ਲਾਜ਼ਮੀ ਕਰਨਾ ਹੈ ਕਿ ਚਿਹਰੇ ਦੀ ਪਛਾਣ ਦੇ ਨਤੀਜਿਆਂ ਨੂੰ ਸਿਰਫ਼ ਇੱਕ ਜਾਂਚ ਲੀਡ ਵਜੋਂ ਮੰਨਿਆ ਜਾਵੇ, ਕਦੇ ਵੀ ਗ੍ਰਿਫਤਾਰੀ ਲਈ ਇੱਕਮਾਤਰ ਸਬੂਤ ਵਜੋਂ ਨਹੀਂ। ਇਸ ਨੂੰ ਪੱਖਪਾਤ ਲਈ ਤੀਜੀ-ਧਿਰ ਆਡਿਟ ਅਤੇ ਵਿਕਰੇਤਾਵਾਂ ਤੋਂ ਲਾਜ਼ਮੀ ਪਾਰਦਰਸ਼ਤਾ ਰਿਪੋਰਟਾਂ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਸਭ ਤੋਂ ਮਹੱਤਵਪੂਰਨ, ਇਹ ਮੰਗ ਕਰਦਾ ਹੈ ਕਿ ਆਲੋਚਨਾਤਮਕ ਸੋਚ ਅਤੇ ਉਚਿਤ ਪ੍ਰਕਿਰਿਆ ਦੀ ਇੱਕ ਮਨੁੱਖੀ ਲੜੀ ਹਮੇਸ਼ਾਂ ਸਵੈਚਲਿਤ ਆਉਟਪੁੱਟ ਉੱਤੇ ਪਹਿਲ ਦੇਵੇ।

"ਇਹ ਇੱਕ ਗੜਬੜ ਤੋਂ ਵੱਧ ਹੈ; ਇਹ ਪ੍ਰਕਿਰਿਆ ਦੀ ਇੱਕ ਬੁਨਿਆਦੀ ਅਸਫਲਤਾ ਹੈ। ਕਿਸੇ ਵੀ ਪ੍ਰਣਾਲੀ ਵਿੱਚ ਭਰੋਸਾ, ਭਾਵੇਂ ਨਿਆਂ ਜਾਂ ਕਾਰੋਬਾਰ ਵਿੱਚ, ਸ਼ੁੱਧਤਾ ਅਤੇ ਜਵਾਬਦੇਹੀ ਦੀ ਬੁਨਿਆਦ 'ਤੇ ਬਣਾਇਆ ਗਿਆ ਹੈ ਜਿਸ ਨੂੰ ਸਿਰਫ਼ ਇੱਕ ਅਣ-ਚੈੱਕ ਐਲਗੋਰਿਦਮ ਲਈ ਆਊਟਸੋਰਸ ਨਹੀਂ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ।" - ਮੇਵੇਜ਼ ਐਥਿਕਸ ਐਡਵਾਈਜ਼ਰੀ ਪੈਨਲ

ਬਿਲਡਿੰਗ ਸਿਸਟਮ ਜਿਨ੍ਹਾਂ 'ਤੇ ਤੁਸੀਂ ਅਸਲ ਵਿੱਚ ਭਰੋਸਾ ਕਰ ਸਕਦੇ ਹੋ

ਟੈਨਸੀ ਦਾਦੀ ਦੀ ਅਜ਼ਮਾਇਸ਼ ਕਾਰੋਬਾਰ ਸਮੇਤ ਹਰ ਖੇਤਰ ਲਈ ਇੱਕ ਸਾਵਧਾਨੀ ਵਾਲੀ ਕਹਾਣੀ ਹੈ। ਇਹ ਇਸ ਸਿਧਾਂਤ ਨੂੰ ਮਜ਼ਬੂਤ ​​ਕਰਦਾ ਹੈ ਕਿ ਤਕਨਾਲੋਜੀ ਨੂੰ ਲੋਕਾਂ ਨੂੰ ਸ਼ਕਤੀ ਅਤੇ ਸੁਰੱਖਿਆ ਦੇਣੀ ਚਾਹੀਦੀ ਹੈ, ਨਾ ਕਿ ਜੋਖਮ ਦੇ ਨਵੇਂ ਵੈਕਟਰ ਬਣਾਉਣੇ। ਕਾਰਪੋਰੇਟ ਜਗਤ ਵਿੱਚ, ਕਾਰਜਕਾਰੀ ਵਿੱਤ, ਗਾਹਕ ਡੇਟਾ, ਅਤੇ ਕਾਰਜਸ਼ੀਲ ਵਰਕਫਲੋ ਦਾ ਪ੍ਰਬੰਧਨ ਕਰਨ ਲਈ ਸੌਫਟਵੇਅਰ 'ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਹਨ। ਮੇਵੇਜ਼ ਵਰਗਾ ਪਲੇਟਫਾਰਮ ਚੁਣਨਾ, ਜੋ ਮਾਡਿਊਲਰ ਨਿਯੰਤਰਣ, ਪਾਰਦਰਸ਼ੀ ਪ੍ਰਕਿਰਿਆਵਾਂ, ਅਤੇ ਇੱਕ ਮਨੁੱਖੀ-ਕੇਂਦ੍ਰਿਤ ਪਹੁੰਚ ਨਾਲ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ, ਇਹ ਯਕੀਨੀ ਬਣਾਉਂਦਾ ਹੈ ਕਿ ਤੁਹਾਡੇ ਕਾਰੋਬਾਰੀ ਸੰਚਾਲਨ ਕੁਸ਼ਲ ਅਤੇ ਸੁਰੱਖਿਅਤ ਹਨ। ਇਹ ਯਾਦ ਦਿਵਾਉਣਾ ਹੈ ਕਿ ਤਕਨਾਲੋਜੀ ਦਾ ਟੀਚਾ ਗਲਤੀ ਨੂੰ ਘਟਾਉਣਾ ਅਤੇ ਸਪੱਸ਼ਟਤਾ ਪੈਦਾ ਕਰਨਾ ਹੈ, ਨਾ ਕਿ ਵਿਨਾਸ਼ਕਾਰੀ ਅਤੇ ਜੀਵਨ ਨੂੰ ਬਦਲਣ ਵਾਲੀਆਂ ਗਲਤੀਆਂ ਨੂੰ ਪੇਸ਼ ਕਰਨਾ। ਜਿਵੇਂ ਕਿ ਅਸੀਂ ਅੱਗੇ ਵਧਦੇ ਹਾਂ, ਇਮਾਨਦਾਰੀ ਨਾਲ ਸਿਸਟਮ ਬਣਾਉਣਾ ਸਿਰਫ਼ ਇੱਕ ਵਿਸ਼ੇਸ਼ਤਾ ਨਹੀਂ ਹੈ-ਇਹ ਇੱਕ ਪੂਰਨ ਲੋੜ ਹੈ।

ਅਕਸਰ ਪੁੱਛੇ ਜਾਣ ਵਾਲੇ ਸਵਾਲ

ਇੱਕ ਟੈਨੇਸੀ ਦਾਦੀ ਦੀ ਗ੍ਰਿਫਤਾਰੀ ਨੇ AI ਦੀ ਗਲਤ ਨਜ਼ਰ ਦਾ ਪਰਦਾਫਾਸ਼ ਕੀਤਾ

ਕਲਪਨਾ ਕਰੋ ਕਿ ਪੁਲਿਸ ਅਫਸਰਾਂ ਵੱਲੋਂ ਤੁਹਾਡੇ ਦਰਵਾਜ਼ੇ 'ਤੇ ਦਸਤਕ ਦਿੱਤੀ ਗਈ ਹੈ ਜੋ ਜ਼ੋਰ ਦਿੰਦੇ ਹਨ ਕਿ ਤੁਸੀਂ ਇੱਕ ਅਪਰਾਧੀ ਹੋ, ਸਬੂਤ ਪੇਸ਼ ਕਰਨਾ ਜੋ ਤੁਸੀਂ ਜਾਣਦੇ ਹੋ ਅਸੰਭਵ ਹੈ। ਇਹ ਟੈਨੇਸੀ ਦੀ ਦਾਦੀ ਲਈ ਅਸਲੀਅਤ ਸੀ, ਜਿਸ ਨੂੰ ਗਲਤ ਤਰੀਕੇ ਨਾਲ ਗ੍ਰਿਫਤਾਰ ਕੀਤਾ ਗਿਆ ਸੀ ਅਤੇ ਉਸ ਅਪਰਾਧ ਲਈ ਜੇਲ ਭੇਜ ਦਿੱਤਾ ਗਿਆ ਸੀ, ਜੋ ਉਸਨੇ ਨਹੀਂ ਕੀਤਾ ਸੀ, ਸਿਰਫ ਇੱਕ ਚਿਹਰੇ ਦੀ ਪਛਾਣ ਐਲਗੋਰਿਦਮ ਦੀ ਗਲਤ ਸਿਫਾਰਸ਼ ਦੇ ਅਧਾਰ ਤੇ। ਉਸ ਦਾ ਮਾਮਲਾ ਕੋਈ ਅਲੱਗ-ਥਲੱਗ ਘਟਨਾ ਨਹੀਂ ਹੈ, ਪਰ ਇੱਕ ਸਖ਼ਤ, ਮਨੁੱਖੀ ਚੇਤਾਵਨੀ ਹੈ ਕਿ ਕੀ ਹੁੰਦਾ ਹੈ ਜਦੋਂ ਗੈਰ-ਨਿਯੰਤ੍ਰਿਤ ਨਕਲੀ ਬੁੱਧੀ ਨੂੰ ਲੋੜੀਂਦੀ ਨਿਗਰਾਨੀ ਤੋਂ ਬਿਨਾਂ ਕਾਨੂੰਨ ਲਾਗੂ ਕਰਨ ਵਰਗੀਆਂ ਨਾਜ਼ੁਕ ਪ੍ਰਣਾਲੀਆਂ ਵਿੱਚ ਜੋੜਿਆ ਜਾਂਦਾ ਹੈ। ਵਪਾਰ ਦੀ ਦੁਨੀਆ ਵਿੱਚ, ਜਿੱਥੇ ਮੇਵੇਜ਼ ਚੈਂਪੀਅਨਜ਼ ਨੇ ਸੁਚਾਰੂ ਅਤੇ ਨੈਤਿਕ ਸੰਚਾਲਨ ਪ੍ਰਕਿਰਿਆਵਾਂ ਨੂੰ ਸੁਚਾਰੂ ਬਣਾਇਆ, ਇਹ ਕਹਾਣੀ ਇੱਕ ਵਿਸ਼ਵਵਿਆਪੀ ਸੱਚ ਨੂੰ ਰੇਖਾਂਕਿਤ ਕਰਦੀ ਹੈ: ਜਿਸ ਤਕਨਾਲੋਜੀ 'ਤੇ ਅਸੀਂ ਭਰੋਸਾ ਕਰਦੇ ਹਾਂ ਉਹ ਸਹੀ, ਜਵਾਬਦੇਹ ਅਤੇ ਪਾਰਦਰਸ਼ੀ ਹੋਣੀ ਚਾਹੀਦੀ ਹੈ।

ਗਲਤ ਪਛਾਣ ਦਾ ਮਾਮਲਾ

ਇਹ ਘਟਨਾ ਲੁਈਸਿਆਨਾ ਵਿੱਚ ਇੱਕ ਚੋਰੀ ਦੀ ਜਾਂਚ ਨਾਲ ਸ਼ੁਰੂ ਹੋਈ। ਅਧਿਕਾਰੀ, ਧੁੰਦਲੀ ਨਿਗਰਾਨੀ ਫੁਟੇਜ ਤੋਂ ਇੱਕ ਸ਼ੱਕੀ ਦੀ ਪਛਾਣ ਕਰਨ ਲਈ ਸੰਘਰਸ਼ ਕਰ ਰਹੇ ਹਨ, ਕਥਿਤ ਤੌਰ 'ਤੇ ਚਿਹਰੇ ਦੀ ਪਛਾਣ ਕਰਨ ਵਾਲੀ ਤਕਨਾਲੋਜੀ ਵੱਲ ਮੁੜ ਗਏ ਹਨ। ਐਲਗੋਰਿਦਮ, ਮਨੁੱਖੀ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਦਾ ਨਕਸ਼ਾ ਅਤੇ ਮੇਲ ਕਰਨ ਲਈ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ, ਇੱਕ ਲੀਡ ਪੈਦਾ ਕਰਦਾ ਹੈ: ਇਸ ਨੇ ਸੁਝਾਅ ਦਿੱਤਾ ਕਿ ਵੀਡੀਓ ਵਿੱਚ ਔਰਤ ਟੈਨੇਸੀ ਵਿੱਚ 400 ਮੀਲ ਤੋਂ ਵੱਧ ਦੂਰ ਰਹਿਣ ਵਾਲੀ ਇੱਕ ਦਾਦੀ ਸੀ। ਇੱਕ ਠੋਸ ਅਲੀਬੀ ਹੋਣ ਦੇ ਬਾਵਜੂਦ ਅਤੇ ਬਹੁਤ ਸਾਰੇ ਲੋਕਾਂ ਦੁਆਰਾ ਸਾਂਝੀਆਂ ਕੀਤੀਆਂ ਸਤਹੀ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਤੋਂ ਪਰੇ ਕੋਈ ਸਮਾਨਤਾ ਨਾ ਹੋਣ ਦੇ ਬਾਵਜੂਦ, ਉਸਨੂੰ ਉਸਦੇ ਪਰਿਵਾਰ ਦੇ ਸਾਹਮਣੇ ਗ੍ਰਿਫਤਾਰ ਕੀਤਾ ਗਿਆ ਅਤੇ ਜੇਲ੍ਹ ਵਿੱਚ ਦਿਨ ਬਿਤਾਏ। ਘਟਨਾ ਦਾ ਸਦਮਾ ਅਤੇ ਅਪਮਾਨ ਅਲਗੋਰਿਦਮਿਕ ਸੁਝਾਅ ਅਤੇ ਅਸਲ ਸੱਚ ਦੇ ਵਿਚਕਾਰ ਇੱਕ ਭਿਆਨਕ ਪਾੜੇ ਨੂੰ ਉਜਾਗਰ ਕਰਦਾ ਹੈ, ਇੱਕ ਪਾੜਾ ਜਿਸ ਵਿੱਚ ਇੱਕ ਮਨੁੱਖੀ ਜੀਵਨ ਡਿੱਗ ਗਿਆ।

AI-ਪਾਵਰਡ ਪੁਲਿਸਿੰਗ ਵਿੱਚ ਸਿਸਟਮਿਕ ਖਾਮੀਆਂ

ਇਹ ਕੇਸ AI ਦੇ ਮੌਜੂਦਾ ਉਪਯੋਗ ਵਿੱਚ ਕਈ ਗੰਭੀਰ ਕਮਜ਼ੋਰੀਆਂ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ, ਖਾਸ ਤੌਰ 'ਤੇ ਚਿਹਰੇ ਦੀ ਪਛਾਣ:

ਨੈਤਿਕ ਤਕਨਾਲੋਜੀ ਅਤੇ ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ ਲਈ ਇੱਕ ਕਾਲ

ਇਸ ਦਾ ਹੱਲ ਟੈਕਨਾਲੋਜੀ ਨੂੰ ਛੱਡਣਾ ਨਹੀਂ ਹੈ ਬਲਕਿ ਇਸਨੂੰ ਸਖ਼ਤ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਨਾਲ ਲਾਗੂ ਕਰਨਾ ਹੈ। ਕਨੂੰਨ ਲਾਗੂ ਕਰਨ ਲਈ, ਇਸਦਾ ਮਤਲਬ ਇਹ ਲਾਜ਼ਮੀ ਕਰਨਾ ਹੈ ਕਿ ਚਿਹਰੇ ਦੀ ਪਛਾਣ ਦੇ ਨਤੀਜਿਆਂ ਨੂੰ ਸਿਰਫ਼ ਇੱਕ ਜਾਂਚ ਲੀਡ ਵਜੋਂ ਮੰਨਿਆ ਜਾਵੇ, ਕਦੇ ਵੀ ਗ੍ਰਿਫਤਾਰੀ ਲਈ ਇੱਕਮਾਤਰ ਸਬੂਤ ਵਜੋਂ ਨਹੀਂ। ਇਸ ਨੂੰ ਪੱਖਪਾਤ ਲਈ ਤੀਜੀ-ਧਿਰ ਆਡਿਟ ਅਤੇ ਵਿਕਰੇਤਾਵਾਂ ਤੋਂ ਲਾਜ਼ਮੀ ਪਾਰਦਰਸ਼ਤਾ ਰਿਪੋਰਟਾਂ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਸਭ ਤੋਂ ਮਹੱਤਵਪੂਰਨ, ਇਹ ਮੰਗ ਕਰਦਾ ਹੈ ਕਿ ਆਲੋਚਨਾਤਮਕ ਸੋਚ ਅਤੇ ਉਚਿਤ ਪ੍ਰਕਿਰਿਆ ਦੀ ਇੱਕ ਮਨੁੱਖੀ ਲੜੀ ਹਮੇਸ਼ਾਂ ਸਵੈਚਲਿਤ ਆਉਟਪੁੱਟ ਉੱਤੇ ਪਹਿਲ ਦੇਵੇ।

ਬਿਲਡਿੰਗ ਸਿਸਟਮ ਜਿਨ੍ਹਾਂ 'ਤੇ ਤੁਸੀਂ ਅਸਲ ਵਿੱਚ ਭਰੋਸਾ ਕਰ ਸਕਦੇ ਹੋ

ਟੈਨਸੀ ਦਾਦੀ ਦੀ ਅਜ਼ਮਾਇਸ਼ ਕਾਰੋਬਾਰ ਸਮੇਤ ਹਰ ਖੇਤਰ ਲਈ ਇੱਕ ਸਾਵਧਾਨੀ ਵਾਲੀ ਕਹਾਣੀ ਹੈ। ਇਹ ਇਸ ਸਿਧਾਂਤ ਨੂੰ ਮਜ਼ਬੂਤ ​​ਕਰਦਾ ਹੈ ਕਿ ਤਕਨਾਲੋਜੀ ਨੂੰ ਲੋਕਾਂ ਨੂੰ ਸ਼ਕਤੀ ਅਤੇ ਸੁਰੱਖਿਆ ਦੇਣੀ ਚਾਹੀਦੀ ਹੈ, ਨਾ ਕਿ ਜੋਖਮ ਦੇ ਨਵੇਂ ਵੈਕਟਰ ਬਣਾਉਣੇ। ਕਾਰਪੋਰੇਟ ਜਗਤ ਵਿੱਚ, ਕਾਰਜਕਾਰੀ ਵਿੱਤ, ਗਾਹਕ ਡੇਟਾ, ਅਤੇ ਕਾਰਜਸ਼ੀਲ ਵਰਕਫਲੋ ਦਾ ਪ੍ਰਬੰਧਨ ਕਰਨ ਲਈ ਸੌਫਟਵੇਅਰ 'ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਹਨ। ਮੇਵੇਜ਼ ਵਰਗਾ ਪਲੇਟਫਾਰਮ ਚੁਣਨਾ, ਜੋ ਮਾਡਿਊਲਰ ਨਿਯੰਤਰਣ, ਪਾਰਦਰਸ਼ੀ ਪ੍ਰਕਿਰਿਆਵਾਂ, ਅਤੇ ਇੱਕ ਮਨੁੱਖੀ-ਕੇਂਦ੍ਰਿਤ ਪਹੁੰਚ ਨਾਲ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ, ਇਹ ਯਕੀਨੀ ਬਣਾਉਂਦਾ ਹੈ ਕਿ ਤੁਹਾਡੇ ਕਾਰੋਬਾਰੀ ਸੰਚਾਲਨ ਕੁਸ਼ਲ ਅਤੇ ਸੁਰੱਖਿਅਤ ਹਨ। ਇਹ ਯਾਦ ਦਿਵਾਉਣਾ ਹੈ ਕਿ ਤਕਨਾਲੋਜੀ ਦਾ ਟੀਚਾ ਗਲਤੀ ਨੂੰ ਘਟਾਉਣਾ ਅਤੇ ਸਪੱਸ਼ਟਤਾ ਪੈਦਾ ਕਰਨਾ ਹੈ, ਨਾ ਕਿ ਵਿਨਾਸ਼ਕਾਰੀ ਅਤੇ ਜੀਵਨ ਨੂੰ ਬਦਲਣ ਵਾਲੀਆਂ ਗਲਤੀਆਂ ਨੂੰ ਪੇਸ਼ ਕਰਨਾ। ਜਿਵੇਂ ਕਿ ਅਸੀਂ ਅੱਗੇ ਵਧਦੇ ਹਾਂ, ਇਮਾਨਦਾਰੀ ਨਾਲ ਸਿਸਟਮ ਬਣਾਉਣਾ ਸਿਰਫ਼ ਇੱਕ ਵਿਸ਼ੇਸ਼ਤਾ ਨਹੀਂ ਹੈ-ਇਹ ਇੱਕ ਪੂਰਨ ਲੋੜ ਹੈ।