AI ਗਲਤੀ ਨੇ ਈਰਾਨ ਵਿੱਚ ਕੁੜੀਆਂ ਦੇ ਸਕੂਲ ਬੰਬ ਧਮਾਕੇ ਵਿੱਚ ਯੋਗਦਾਨ ਪਾਇਆ ਹੋ ਸਕਦਾ ਹੈ

ਮਨੁੱਖੀ ਪੱਖਪਾਤ ਅਤੇ ਤਕਨੀਕੀ ਅਸਫਲਤਾ ਵਿੱਚ ਜੜ੍ਹੀ ਇੱਕ ਤ੍ਰਾਸਦੀ

ਈਰਾਨ ਵਿੱਚ ਹਾਲ ਹੀ ਵਿੱਚ ਹੋਏ ਦੁਖਦਾਈ ਬੰਬ ਧਮਾਕੇ, ਜਿਸ ਦੇ ਨਤੀਜੇ ਵਜੋਂ ਉਸਦੇ ਸਕੂਲ ਦੇ ਨੇੜੇ ਇੱਕ ਛੋਟੀ ਬੱਚੀ ਦੀ ਮੌਤ ਹੋ ਗਈ, ਨੇ ਦੁਨੀਆ ਭਰ ਵਿੱਚ ਸਦਮੇ ਭੇਜ ਦਿੱਤੇ ਹਨ। ਜਦੋਂ ਕਿ ਸ਼ੁਰੂਆਤੀ ਰਿਪੋਰਟਾਂ ਹਮਲਾਵਰਾਂ ਦੇ ਮਨੁੱਖੀ ਦੋਸ਼ਾਂ 'ਤੇ ਕੇਂਦ੍ਰਿਤ ਹਨ, ਜਾਂਚ ਤੋਂ ਇੱਕ ਹੋਰ ਧੋਖੇਬਾਜ਼ ਕਾਰਕ ਉਭਰ ਰਿਹਾ ਹੈ: ਟੀਚਾ ਚੋਣ ਪ੍ਰਕਿਰਿਆ ਵਿੱਚ ਇੱਕ ਨਕਲੀ ਖੁਫੀਆ ਪ੍ਰਣਾਲੀ ਦੀ ਸੰਭਾਵੀ ਭੂਮਿਕਾ। ਇਹ ਘਟਨਾ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ ਦਰਸਾਉਂਦੀ ਹੈ ਕਿ AI ਇੱਕ ਨਿਰਪੱਖ ਸਾਧਨ ਨਹੀਂ ਹੈ; ਇਹ ਇੱਕ ਸ਼ੀਸ਼ਾ ਹੈ ਜੋ ਇਸਦੇ ਸਿਰਜਣਹਾਰਾਂ ਦੇ ਡੇਟਾ ਅਤੇ ਪੱਖਪਾਤ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ। ਜਦੋਂ AI ਨੂੰ ਉੱਚ-ਦਾਅ ਵਾਲੇ ਵਾਤਾਵਰਣਾਂ ਵਿੱਚ ਤੈਨਾਤ ਕੀਤਾ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਐਲਗੋਰਿਦਮਿਕ ਤਰੁਟੀਆਂ ਦੇ ਨਤੀਜੇ ਸਿਰਫ਼ ਅੰਕੜਾਤਮਕ ਵਿਗਾੜ ਨਹੀਂ ਹੁੰਦੇ - ਉਹ ਮਨੁੱਖੀ ਜਾਨਾਂ ਗੁਆਉਂਦੇ ਹਨ। ਚਰਚਾ ਨੂੰ ਹੁਣ ਇਸ ਗੱਲ ਤੋਂ ਬਦਲਣਾ ਚਾਹੀਦਾ ਹੈ ਕਿ ਕੀ AI ਦੀ ਵਰਤੋਂ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ, ਇਸ ਤਰ੍ਹਾਂ ਦੀਆਂ ਤਬਾਹੀਆਂ ਨੂੰ ਰੋਕਣ ਲਈ ਇਸਨੂੰ ਕਿਵੇਂ ਨਿਯੰਤਰਿਤ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ।

ਜਦੋਂ ਐਲਗੋਰਿਦਮ ਮਨੁੱਖੀ ਪੱਖਪਾਤ ਨੂੰ ਪ੍ਰਾਪਤ ਕਰਦੇ ਹਨ

ਬਹੁਤ ਸਾਰੇ AI ਪ੍ਰਣਾਲੀਆਂ ਵਿੱਚ ਬੁਨਿਆਦੀ ਨੁਕਸ ਉਹਨਾਂ ਦੇ ਸਿਖਲਾਈ ਡੇਟਾ ਵਿੱਚ ਹੈ। ਜੇ ਇੱਕ AI ਨੂੰ ਭੂ-ਰਾਜਨੀਤਿਕ ਤਣਾਅ, ਇਤਿਹਾਸਕ ਸ਼ਿਕਾਇਤਾਂ, ਅਤੇ ਪੱਖਪਾਤੀ ਰਿਪੋਰਟਿੰਗ ਨਾਲ ਸੰਤ੍ਰਿਪਤ ਜਾਣਕਾਰੀ 'ਤੇ ਸਿਖਲਾਈ ਦਿੱਤੀ ਜਾਂਦੀ ਹੈ, ਤਾਂ ਇਹ ਇਹਨਾਂ ਪੈਟਰਨਾਂ ਨੂੰ ਅੰਦਰੂਨੀ ਬਣਾ ਦੇਵੇਗਾ। ਸੁਰੱਖਿਆ ਅਤੇ ਨਿਗਰਾਨੀ ਦੇ ਸੰਦਰਭ ਵਿੱਚ, "ਖਤਰੇ" ਦੀ ਪਛਾਣ ਕਰਨ ਦਾ ਕੰਮ ਸੌਂਪਿਆ ਗਿਆ ਇੱਕ AI ਕੁਝ ਸਥਾਨਾਂ, ਵਿਵਹਾਰਾਂ, ਜਾਂ ਇੱਥੋਂ ਤੱਕ ਕਿ ਜਨਸੰਖਿਆ ਨੂੰ ਵੀ ਖਤਰੇ ਨਾਲ ਜੋੜਨਾ ਸ਼ੁਰੂ ਕਰ ਸਕਦਾ ਹੈ, ਅਸਲ-ਸਮੇਂ ਦੇ ਸਬੂਤਾਂ ਦੇ ਅਧਾਰ 'ਤੇ ਨਹੀਂ, ਪਰ ਇਸ ਨੂੰ ਖੁਆਏ ਗਏ ਤਿੱਖੇ ਇਤਿਹਾਸਕ ਡੇਟਾ ਦੇ ਅਧਾਰ ਤੇ। ਇਹ ਇੱਕ ਖਤਰਨਾਕ ਫੀਡਬੈਕ ਲੂਪ ਬਣਾਉਂਦਾ ਹੈ: ਐਲਗੋਰਿਦਮ ਇੱਕ ਪੱਖਪਾਤੀ ਸਬੰਧਾਂ ਦੇ ਅਧਾਰ ਤੇ ਇੱਕ ਸਥਾਨ ਨੂੰ ਫਲੈਗ ਕਰਦਾ ਹੈ, ਮਨੁੱਖ ਉਸ ਫਲੈਗ 'ਤੇ ਕੰਮ ਕਰਦੇ ਹਨ, ਅਤੇ ਨਤੀਜੇ ਵਜੋਂ ਕਾਰਵਾਈ ਨੂੰ ਫਿਰ ਐਲਗੋਰਿਦਮ ਦੇ ਅਸਲ ਪੱਖਪਾਤ ਨੂੰ ਮਜ਼ਬੂਤ ​​ਕਰਨ ਲਈ ਹੋਰ "ਸਬੂਤ" ਵਜੋਂ ਵਰਤਿਆ ਜਾਂਦਾ ਹੈ। ਈਰਾਨ ਦੀ ਘਟਨਾ ਵਿੱਚ, ਸ਼ੁਰੂਆਤੀ ਰਿਪੋਰਟਾਂ ਸੁਝਾਅ ਦਿੰਦੀਆਂ ਹਨ ਕਿ ਇੱਕ AI-ਸੰਚਾਲਿਤ ਟਾਰਗੇਟਿੰਗ ਸਿਸਟਮ ਨੇ ਇੱਕ ਰਣਨੀਤਕ ਖਤਰੇ ਦੇ ਰੂਪ ਵਿੱਚ ਸਕੂਲ ਦੇ ਨੇੜੇ ਇੱਕ ਖੇਤਰ ਨੂੰ ਗਲਤ ਢੰਗ ਨਾਲ ਫਲੈਗ ਕੀਤਾ ਹੋ ਸਕਦਾ ਹੈ, ਦਿਲ ਦਹਿਲਾਉਣ ਵਾਲੇ ਨਤੀਜਿਆਂ ਦੇ ਨਾਲ ਇੱਕ ਵਿਨਾਸ਼ਕਾਰੀ ਗਲਤ ਫੈਂਸਲਾ।

ਨਾਜ਼ੁਕ ਪ੍ਰਣਾਲੀਆਂ ਵਿੱਚ ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ ਦਾ ਜ਼ਰੂਰੀ

ਇਹ ਤ੍ਰਾਸਦੀ ਇੱਕ ਗੈਰ-ਗੱਲਬਾਤ ਸਿਧਾਂਤ ਨੂੰ ਰੇਖਾਂਕਿਤ ਕਰਦੀ ਹੈ: AI ਨੂੰ ਮਨੁੱਖੀ ਫੈਸਲੇ ਲੈਣ ਦੀ ਸਮਰੱਥਾ ਨੂੰ ਵਧਾਉਣਾ ਚਾਹੀਦਾ ਹੈ, ਇਸਦੀ ਥਾਂ ਨਹੀਂ। ਖਾਸ ਤੌਰ 'ਤੇ ਜੀਵਨ-ਜਾਂ-ਮੌਤ ਦੇ ਦ੍ਰਿਸ਼ਾਂ ਵਿੱਚ, ਪ੍ਰਸੰਗਿਕ ਸਮਝ, ਨੈਤਿਕ ਨਿਰਣਾ, ਅਤੇ ਆਮ ਸਮਝ ਪ੍ਰਦਾਨ ਕਰਨ ਲਈ ਇੱਕ "ਇਨਸਾਨ ਇਨ ਲੂਪ" ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ - ਉਹ ਗੁਣ ਜੋ ਐਲਗੋਰਿਦਮ ਵਿੱਚ ਬੁਨਿਆਦੀ ਤੌਰ 'ਤੇ ਘਾਟ ਹਨ। ਇੱਕ AI ਅਵਿਸ਼ਵਾਸ਼ਯੋਗ ਗਤੀ 'ਤੇ ਡੇਟਾ ਦੀ ਪ੍ਰਕਿਰਿਆ ਕਰ ਸਕਦਾ ਹੈ, ਪਰ ਇਹ ਸਕੂਲ ਦੇ ਵਿਹੜੇ, ਹਸਪਤਾਲ ਜਾਂ ਰਿਹਾਇਸ਼ੀ ਖੇਤਰ ਦੇ ਡੂੰਘੇ ਮਹੱਤਵ ਨੂੰ ਨਹੀਂ ਸਮਝ ਸਕਦਾ। ਇਹ ਇੱਕ ਜੀਵਨ ਦੀ ਕੀਮਤ ਨੂੰ ਨਹੀਂ ਸਮਝ ਸਕਦਾ। ਮਜਬੂਤ, ਲਾਜ਼ਮੀ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਤੋਂ ਬਿਨਾਂ ਖੁਦਮੁਖਤਿਆਰੀ ਮਹੱਤਵਪੂਰਨ ਫੈਸਲਿਆਂ ਲਈ AI 'ਤੇ ਭਰੋਸਾ ਕਰਨਾ ਨੈਤਿਕ ਜ਼ਿੰਮੇਵਾਰੀ ਦਾ ਤਿਆਗ ਹੈ। ਕੁਸ਼ਲਤਾ ਦਾ ਵਾਅਦਾ ਕਦੇ ਵੀ ਨੈਤਿਕ ਜਵਾਬਦੇਹੀ ਦੀ ਲੋੜ ਤੋਂ ਵੱਧ ਨਹੀਂ ਹੋ ਸਕਦਾ।

• ਡੇਟਾ ਪ੍ਰੋਵੇਨੈਂਸ: ਸਿਖਲਾਈ ਡੇਟਾ ਦੇ ਅੰਦਰ ਮੂਲ ਅਤੇ ਸੰਭਾਵੀ ਪੱਖਪਾਤ ਨੂੰ ਜਾਣਨਾ ਜਵਾਬਦੇਹੀ ਵੱਲ ਪਹਿਲਾ ਕਦਮ ਹੈ।
• ਐਲਗੋਰਿਦਮਿਕ ਪਾਰਦਰਸ਼ਤਾ: ਹਾਲਾਂਕਿ ਸਾਰੇ ਕੋਡ ਓਪਨ-ਸੋਰਸ ਨਹੀਂ ਹੋ ਸਕਦੇ, ਉੱਚ-ਸਟੇਕ AI ਦੇ ਤਰਕ ਅਤੇ ਮੁੱਖ ਫੈਸਲੇ ਲੈਣ ਦੇ ਮਾਪਦੰਡ ਆਡਿਟ ਹੋਣੇ ਚਾਹੀਦੇ ਹਨ।
• ਨਿਰੰਤਰ ਨਿਗਰਾਨੀ: ਤੈਨਾਤੀ ਤੋਂ ਬਾਅਦ ਡ੍ਰਾਈਫਟ ਅਤੇ ਨਵੇਂ, ਨੁਕਸਾਨਦੇਹ ਪੱਖਪਾਤ ਦੇ ਉਭਾਰ ਲਈ AI ਪ੍ਰਣਾਲੀਆਂ ਦੀ ਨਿਰੰਤਰ ਨਿਗਰਾਨੀ ਕੀਤੀ ਜਾਣੀ ਚਾਹੀਦੀ ਹੈ।
• ਸਪੱਸ਼ਟ ਜਵਾਬਦੇਹੀ: ਇੱਕ ਅਸਪਸ਼ਟ ਕਨੂੰਨੀ ਅਤੇ ਨੈਤਿਕ ਢਾਂਚੇ ਹੋਣੇ ਚਾਹੀਦੇ ਹਨ ਜੋ ਪਰਿਭਾਸ਼ਤ ਕਰਦੇ ਹਨ ਕਿ AI ਸਿਸਟਮ ਦੇ ਅਸਫਲ ਹੋਣ 'ਤੇ ਕੌਣ ਜ਼ਿੰਮੇਵਾਰ ਹੈ।

ਨੈਤਿਕ ਗਾਰਡਰੇਲ ਬਣਾਉਣਾ: ਵਪਾਰ ਅਤੇ ਸਮਾਜ ਲਈ ਇੱਕ ਸਬਕ

ਇਸ ਘਟਨਾ ਦੇ ਪ੍ਰਭਾਵ ਜੰਗ ਦੇ ਮੈਦਾਨ ਤੋਂ ਬਹੁਤ ਦੂਰ ਹਨ। ਗਾਹਕ ਸੇਵਾ ਤੋਂ ਲੈ ਕੇ ਲੌਜਿਸਟਿਕਸ ਤੱਕ, ਆਪਣੇ ਕਾਰਜਾਂ ਵਿੱਚ ਏਆਈ ਨੂੰ ਏਕੀਕ੍ਰਿਤ ਕਰਨ ਵਾਲੇ ਕਾਰੋਬਾਰਾਂ ਨੂੰ ਇਸ ਗੰਭੀਰ ਉਦਾਹਰਣ ਤੋਂ ਸਿੱਖਣਾ ਚਾਹੀਦਾ ਹੈ। ਇੱਕ ਨੁਕਸਦਾਰ ਐਲਗੋਰਿਦਮ ਜੋ ਇੱਕ ਫੌਜੀ ਟੀਚੇ ਦੀ ਗਲਤ ਪਛਾਣ ਕਰਦਾ ਹੈ ਇੱਕ ਘਾਤਕ ਅਸਫਲਤਾ ਹੈ; ਇੱਕ ਨੁਕਸਦਾਰ ਐਲਗੋਰਿਦਮ ਜੋ ਕਰਜ਼ੇ ਤੋਂ ਇਨਕਾਰ ਕਰਦਾ ਹੈ, ਇੱਕ ਯੋਗਤਾ ਪ੍ਰਾਪਤ ਨੌਕਰੀ ਬਿਨੈਕਾਰ ਨੂੰ ਫਿਲਟਰ ਕਰਦਾ ਹੈ, ਜਾਂ ਨਾਜ਼ੁਕ ਸਰੋਤਾਂ ਨੂੰ ਗਲਤ ਦਿਸ਼ਾ ਦਿੰਦਾ ਹੈ, ਅਸਲ ਮਨੁੱਖੀ ਲਾਗਤਾਂ ਦੇ ਨਾਲ, ਇੱਕ ਡੂੰਘੀ ਅਸਫਲਤਾ ਹੈ। ਇਹ ਉਹ ਥਾਂ ਹੈ ਜਿੱਥੇ ਜ਼ਮੀਨੀ ਪੱਧਰ ਤੋਂ ਇਕਸਾਰਤਾ ਨਾਲ ਸਿਸਟਮ ਬਣਾਉਣ ਦਾ ਸਿਧਾਂਤ ਸਰਵਉੱਚ ਬਣ ਜਾਂਦਾ ਹੈ। Mewayz ਵਰਗੇ ਪਲੇਟਫਾਰਮਾਂ ਨੂੰ ਉਹਨਾਂ ਦੇ ਮੂਲ ਰੂਪ ਵਿੱਚ ਮਾਡਿਊਲਰਿਟੀ ਅਤੇ ਪਾਰਦਰਸ਼ਤਾ ਨਾਲ ਡਿਜ਼ਾਈਨ ਕੀਤਾ ਗਿਆ ਹੈ, ਇਹ ਯਕੀਨੀ ਬਣਾਉਂਦੇ ਹੋਏ ਕਿ ਹਰੇਕ ਸਵੈਚਲਿਤ ਪ੍ਰਕਿਰਿਆ ਨੂੰ ਟਰੈਕ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ, ਸਮਝਿਆ ਜਾ ਸਕਦਾ ਹੈ ਅਤੇ ਐਡਜਸਟ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ। ਵਪਾਰਕ ਸੰਦਰਭ ਵਿੱਚ, ਇਹ ਪਹੁੰਚ ਛੋਟੀਆਂ ਗਲਤੀਆਂ ਨੂੰ ਸੰਚਾਲਨ ਸੰਕਟ ਵਿੱਚ ਫਸਣ ਤੋਂ ਰੋਕਦੀ ਹੈ, ਭਰੋਸੇ ਅਤੇ ਭਰੋਸੇਯੋਗਤਾ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਕਰਦੀ ਹੈ।

"ਇਕੱਲੀ ਟੈਕਨਾਲੋਜੀ ਹੀ ਕੋਈ ਹੱਲ ਨਹੀਂ ਹੈ। ਇਹ ਉਹ ਨੈਤਿਕ ਢਾਂਚਾ ਹੈ ਜਿਸ ਦੇ ਅੰਦਰ ਅਸੀਂ ਇਸਨੂੰ ਬਣਾਉਂਦੇ ਅਤੇ ਲਾਗੂ ਕਰਦੇ ਹਾਂ ਜੋ ਮਨੁੱਖਤਾ 'ਤੇ ਇਸਦੇ ਪ੍ਰਭਾਵ ਨੂੰ ਨਿਰਧਾਰਤ ਕਰਦਾ ਹੈ। ਈਰਾਨ ਵਿੱਚ ਦੁਖਾਂਤ ਇੱਕ ਗੰਭੀਰ ਯਾਦ ਦਿਵਾਉਂਦਾ ਹੈ ਕਿ ਸਖ਼ਤ ਨਿਗਰਾਨੀ ਦੇ ਬਿਨਾਂ, ਸੁਰੱਖਿਆ ਨੂੰ ਵਧਾਉਣ ਲਈ ਸਾਡੇ ਦੁਆਰਾ ਬਣਾਏ ਗਏ ਸਾਧਨ ਡੂੰਘੇ ਅਨਿਆਂ ਦੇ ਸਾਧਨ ਬਣ ਸਕਦੇ ਹਨ।" - ਡਾ. ਅਨਾਹਿਤਾ ਸ਼ਰਮਾ, ਏ.ਆਈ. ਐਥਿਸਿਸਟ।

ਜ਼ਿੰਮੇਵਾਰ ਨਵੀਨਤਾ ਲਈ ਇੱਕ ਕਾਲ

ਇਰਾਨ ਵਿੱਚ ਸਕੂਲ ਦੇ ਨੇੜੇ ਬੰਬ ਧਮਾਕਾ ਇੱਕ ਵਾਟਰਸ਼ੈੱਡ ਪਲ ਹੈ। ਇਹ ਨਕਲੀ ਬੁੱਧੀ ਦੀਆਂ ਨੈਤਿਕ ਸੀਮਾਵਾਂ ਬਾਰੇ ਇੱਕ ਵਿਸ਼ਵਵਿਆਪੀ ਗੱਲਬਾਤ ਲਈ ਮਜਬੂਰ ਕਰਦਾ ਹੈ। ਅੱਗੇ ਵਧਣ ਲਈ ਜ਼ਿੰਮੇਵਾਰ ਨਵੀਨਤਾ ਲਈ ਸਮੂਹਿਕ ਵਚਨਬੱਧਤਾ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਇਸਦਾ ਅਰਥ ਹੈ ਪੱਖਪਾਤ ਘਟਾਉਣ ਦੀਆਂ ਤਕਨੀਕਾਂ ਵਿੱਚ ਨਿਵੇਸ਼ ਕਰਨਾ, ਸੁਰੱਖਿਆ ਵਿੱਚ AI ਦੀ ਵਰਤੋਂ ਲਈ ਅੰਤਰਰਾਸ਼ਟਰੀ ਮਾਪਦੰਡ ਸਥਾਪਤ ਕਰਨਾ, ਅਤੇ ਐਲਗੋਰਿਦਮਿਕ ਕੁਸ਼ਲਤਾ ਨਾਲੋਂ ਮਨੁੱਖੀ ਭਲਾਈ ਨੂੰ ਤਰਜੀਹ ਦੇਣਾ। ਕਿਸੇ ਵੀ ਸੰਸਥਾ ਲਈ, ਭਾਵੇਂ ਕੋਈ ਸਰਕਾਰੀ ਸੰਸਥਾ ਹੋਵੇ ਜਾਂ Mewayz ਵਰਗੇ ਪਲੇਟਫਾਰਮ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲਾ ਕਾਰੋਬਾਰ, ਟੀਚਾ ਅਜਿਹੇ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਬਣਾਉਣਾ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ ਜੋ ਬੁੱਧੀਮਾਨ ਸਾਧਨਾਂ ਨਾਲ ਮਨੁੱਖੀ ਨਿਰਣੇ ਨੂੰ ਸਮਰੱਥ ਬਣਾਉਂਦਾ ਹੈ, ਨਾ ਕਿ ਇਸਨੂੰ ਗੈਰ-ਜਿੰਮੇਵਾਰ ਆਟੋਮੇਸ਼ਨ ਨਾਲ ਬਦਲਣਾ ਚਾਹੀਦਾ ਹੈ। ਉਸ ਮੁਟਿਆਰ ਦੀ ਯਾਦ ਨੂੰ ਤਬਦੀਲੀ ਲਈ ਇੱਕ ਸ਼ਕਤੀਸ਼ਾਲੀ ਉਤਪ੍ਰੇਰਕ ਵਜੋਂ ਕੰਮ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ, ਜੋ ਸਾਨੂੰ ਇੱਕ ਅਜਿਹੇ ਭਵਿੱਖ ਦੇ ਨਿਰਮਾਣ ਲਈ ਪ੍ਰੇਰਿਤ ਕਰਦੀ ਹੈ ਜਿੱਥੇ ਤਕਨਾਲੋਜੀ ਮਨੁੱਖਤਾ ਦੀ ਰੱਖਿਆ ਅਤੇ ਉੱਨਤੀ ਲਈ ਕੰਮ ਕਰਦੀ ਹੈ, ਨਾ ਕਿ ਇਸਨੂੰ ਤਬਾਹ ਕਰਨ ਲਈ।

ਅਕਸਰ ਪੁੱਛੇ ਜਾਣ ਵਾਲੇ ਸਵਾਲ

ਮਨੁੱਖੀ ਪੱਖਪਾਤ ਅਤੇ ਤਕਨੀਕੀ ਅਸਫਲਤਾ ਵਿੱਚ ਜੜ੍ਹੀ ਇੱਕ ਤ੍ਰਾਸਦੀ

ਈਰਾਨ ਵਿੱਚ ਹਾਲ ਹੀ ਵਿੱਚ ਹੋਏ ਦੁਖਦਾਈ ਬੰਬ ਧਮਾਕੇ, ਜਿਸ ਦੇ ਨਤੀਜੇ ਵਜੋਂ ਉਸਦੇ ਸਕੂਲ ਦੇ ਨੇੜੇ ਇੱਕ ਛੋਟੀ ਬੱਚੀ ਦੀ ਮੌਤ ਹੋ ਗਈ, ਨੇ ਦੁਨੀਆ ਭਰ ਵਿੱਚ ਸਦਮੇ ਭੇਜ ਦਿੱਤੇ ਹਨ। ਜਦੋਂ ਕਿ ਸ਼ੁਰੂਆਤੀ ਰਿਪੋਰਟਾਂ ਹਮਲਾਵਰਾਂ ਦੇ ਮਨੁੱਖੀ ਦੋਸ਼ਾਂ 'ਤੇ ਕੇਂਦ੍ਰਿਤ ਹਨ, ਜਾਂਚ ਤੋਂ ਇੱਕ ਹੋਰ ਧੋਖੇਬਾਜ਼ ਕਾਰਕ ਉਭਰ ਰਿਹਾ ਹੈ: ਟੀਚਾ ਚੋਣ ਪ੍ਰਕਿਰਿਆ ਵਿੱਚ ਇੱਕ ਨਕਲੀ ਖੁਫੀਆ ਪ੍ਰਣਾਲੀ ਦੀ ਸੰਭਾਵੀ ਭੂਮਿਕਾ। ਇਹ ਘਟਨਾ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ ਦਰਸਾਉਂਦੀ ਹੈ ਕਿ AI ਇੱਕ ਨਿਰਪੱਖ ਸਾਧਨ ਨਹੀਂ ਹੈ; ਇਹ ਇੱਕ ਸ਼ੀਸ਼ਾ ਹੈ ਜੋ ਇਸਦੇ ਸਿਰਜਣਹਾਰਾਂ ਦੇ ਡੇਟਾ ਅਤੇ ਪੱਖਪਾਤ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ। ਜਦੋਂ AI ਨੂੰ ਉੱਚ-ਦਾਅ ਵਾਲੇ ਵਾਤਾਵਰਣਾਂ ਵਿੱਚ ਤੈਨਾਤ ਕੀਤਾ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਐਲਗੋਰਿਦਮਿਕ ਤਰੁਟੀਆਂ ਦੇ ਨਤੀਜੇ ਸਿਰਫ਼ ਅੰਕੜਾਤਮਕ ਵਿਗਾੜ ਨਹੀਂ ਹੁੰਦੇ - ਉਹ ਮਨੁੱਖੀ ਜਾਨਾਂ ਗੁਆਉਂਦੇ ਹਨ। ਚਰਚਾ ਨੂੰ ਹੁਣ ਇਸ ਗੱਲ ਤੋਂ ਬਦਲਣਾ ਚਾਹੀਦਾ ਹੈ ਕਿ ਕੀ AI ਦੀ ਵਰਤੋਂ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ, ਇਸ ਤਰ੍ਹਾਂ ਦੀਆਂ ਤਬਾਹੀਆਂ ਨੂੰ ਰੋਕਣ ਲਈ ਇਸਨੂੰ ਕਿਵੇਂ ਨਿਯੰਤਰਿਤ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ।

ਜਦੋਂ ਐਲਗੋਰਿਦਮ ਮਨੁੱਖੀ ਪੱਖਪਾਤ ਨੂੰ ਪ੍ਰਾਪਤ ਕਰਦੇ ਹਨ

ਬਹੁਤ ਸਾਰੇ AI ਪ੍ਰਣਾਲੀਆਂ ਵਿੱਚ ਬੁਨਿਆਦੀ ਨੁਕਸ ਉਹਨਾਂ ਦੇ ਸਿਖਲਾਈ ਡੇਟਾ ਵਿੱਚ ਹੈ। ਜੇ ਇੱਕ AI ਨੂੰ ਭੂ-ਰਾਜਨੀਤਿਕ ਤਣਾਅ, ਇਤਿਹਾਸਕ ਸ਼ਿਕਾਇਤਾਂ, ਅਤੇ ਪੱਖਪਾਤੀ ਰਿਪੋਰਟਿੰਗ ਨਾਲ ਸੰਤ੍ਰਿਪਤ ਜਾਣਕਾਰੀ 'ਤੇ ਸਿਖਲਾਈ ਦਿੱਤੀ ਜਾਂਦੀ ਹੈ, ਤਾਂ ਇਹ ਇਹਨਾਂ ਪੈਟਰਨਾਂ ਨੂੰ ਅੰਦਰੂਨੀ ਬਣਾ ਦੇਵੇਗਾ। ਸੁਰੱਖਿਆ ਅਤੇ ਨਿਗਰਾਨੀ ਦੇ ਸੰਦਰਭ ਵਿੱਚ, "ਖਤਰੇ" ਦੀ ਪਛਾਣ ਕਰਨ ਦਾ ਕੰਮ ਸੌਂਪਿਆ ਗਿਆ ਇੱਕ AI ਕੁਝ ਸਥਾਨਾਂ, ਵਿਵਹਾਰਾਂ, ਜਾਂ ਇੱਥੋਂ ਤੱਕ ਕਿ ਜਨਸੰਖਿਆ ਨੂੰ ਵੀ ਖਤਰੇ ਨਾਲ ਜੋੜਨਾ ਸ਼ੁਰੂ ਕਰ ਸਕਦਾ ਹੈ, ਅਸਲ-ਸਮੇਂ ਦੇ ਸਬੂਤਾਂ ਦੇ ਅਧਾਰ 'ਤੇ ਨਹੀਂ, ਪਰ ਇਸ ਨੂੰ ਖੁਆਏ ਗਏ ਤਿੱਖੇ ਇਤਿਹਾਸਕ ਡੇਟਾ ਦੇ ਅਧਾਰ ਤੇ। ਇਹ ਇੱਕ ਖਤਰਨਾਕ ਫੀਡਬੈਕ ਲੂਪ ਬਣਾਉਂਦਾ ਹੈ: ਐਲਗੋਰਿਦਮ ਇੱਕ ਪੱਖਪਾਤੀ ਸਬੰਧਾਂ ਦੇ ਅਧਾਰ ਤੇ ਇੱਕ ਸਥਾਨ ਨੂੰ ਫਲੈਗ ਕਰਦਾ ਹੈ, ਮਨੁੱਖ ਉਸ ਫਲੈਗ 'ਤੇ ਕੰਮ ਕਰਦੇ ਹਨ, ਅਤੇ ਨਤੀਜੇ ਵਜੋਂ ਕਾਰਵਾਈ ਨੂੰ ਫਿਰ ਐਲਗੋਰਿਦਮ ਦੇ ਅਸਲ ਪੱਖਪਾਤ ਨੂੰ ਮਜ਼ਬੂਤ ​​ਕਰਨ ਲਈ ਹੋਰ "ਸਬੂਤ" ਵਜੋਂ ਵਰਤਿਆ ਜਾਂਦਾ ਹੈ। ਈਰਾਨ ਦੀ ਘਟਨਾ ਵਿੱਚ, ਸ਼ੁਰੂਆਤੀ ਰਿਪੋਰਟਾਂ ਸੁਝਾਅ ਦਿੰਦੀਆਂ ਹਨ ਕਿ ਇੱਕ AI-ਸੰਚਾਲਿਤ ਟਾਰਗੇਟਿੰਗ ਸਿਸਟਮ ਨੇ ਇੱਕ ਰਣਨੀਤਕ ਖਤਰੇ ਦੇ ਰੂਪ ਵਿੱਚ ਸਕੂਲ ਦੇ ਨੇੜੇ ਇੱਕ ਖੇਤਰ ਨੂੰ ਗਲਤ ਢੰਗ ਨਾਲ ਫਲੈਗ ਕੀਤਾ ਹੋ ਸਕਦਾ ਹੈ, ਦਿਲ ਦਹਿਲਾਉਣ ਵਾਲੇ ਨਤੀਜਿਆਂ ਦੇ ਨਾਲ ਇੱਕ ਵਿਨਾਸ਼ਕਾਰੀ ਗਲਤ ਫੈਂਸਲਾ।

ਨਾਜ਼ੁਕ ਪ੍ਰਣਾਲੀਆਂ ਵਿੱਚ ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ ਦਾ ਜ਼ਰੂਰੀ

ਇਹ ਤ੍ਰਾਸਦੀ ਇੱਕ ਗੈਰ-ਗੱਲਬਾਤ ਸਿਧਾਂਤ ਨੂੰ ਰੇਖਾਂਕਿਤ ਕਰਦੀ ਹੈ: AI ਨੂੰ ਮਨੁੱਖੀ ਫੈਸਲੇ ਲੈਣ ਦੀ ਸਮਰੱਥਾ ਨੂੰ ਵਧਾਉਣਾ ਚਾਹੀਦਾ ਹੈ, ਇਸਦੀ ਥਾਂ ਨਹੀਂ। ਖਾਸ ਤੌਰ 'ਤੇ ਜੀਵਨ-ਜਾਂ-ਮੌਤ ਦੇ ਦ੍ਰਿਸ਼ਾਂ ਵਿੱਚ, ਪ੍ਰਸੰਗਿਕ ਸਮਝ, ਨੈਤਿਕ ਨਿਰਣਾ, ਅਤੇ ਆਮ ਸਮਝ ਪ੍ਰਦਾਨ ਕਰਨ ਲਈ ਇੱਕ "ਇਨਸਾਨ ਇਨ ਲੂਪ" ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ - ਉਹ ਗੁਣ ਜੋ ਐਲਗੋਰਿਦਮ ਵਿੱਚ ਬੁਨਿਆਦੀ ਤੌਰ 'ਤੇ ਘਾਟ ਹਨ। ਇੱਕ AI ਅਵਿਸ਼ਵਾਸ਼ਯੋਗ ਗਤੀ 'ਤੇ ਡੇਟਾ ਦੀ ਪ੍ਰਕਿਰਿਆ ਕਰ ਸਕਦਾ ਹੈ, ਪਰ ਇਹ ਸਕੂਲ ਦੇ ਵਿਹੜੇ, ਹਸਪਤਾਲ ਜਾਂ ਰਿਹਾਇਸ਼ੀ ਖੇਤਰ ਦੇ ਡੂੰਘੇ ਮਹੱਤਵ ਨੂੰ ਨਹੀਂ ਸਮਝ ਸਕਦਾ। ਇਹ ਇੱਕ ਜੀਵਨ ਦੀ ਕੀਮਤ ਨੂੰ ਨਹੀਂ ਸਮਝ ਸਕਦਾ। ਮਜਬੂਤ, ਲਾਜ਼ਮੀ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਤੋਂ ਬਿਨਾਂ ਖੁਦਮੁਖਤਿਆਰੀ ਮਹੱਤਵਪੂਰਨ ਫੈਸਲਿਆਂ ਲਈ AI 'ਤੇ ਭਰੋਸਾ ਕਰਨਾ ਨੈਤਿਕ ਜ਼ਿੰਮੇਵਾਰੀ ਦਾ ਤਿਆਗ ਹੈ। ਕੁਸ਼ਲਤਾ ਦਾ ਵਾਅਦਾ ਕਦੇ ਵੀ ਨੈਤਿਕ ਜਵਾਬਦੇਹੀ ਦੀ ਲੋੜ ਤੋਂ ਵੱਧ ਨਹੀਂ ਹੋ ਸਕਦਾ।

ਨੈਤਿਕ ਗਾਰਡਰੇਲ ਬਣਾਉਣਾ: ਵਪਾਰ ਅਤੇ ਸਮਾਜ ਲਈ ਇੱਕ ਸਬਕ

ਇਸ ਘਟਨਾ ਦੇ ਪ੍ਰਭਾਵ ਜੰਗ ਦੇ ਮੈਦਾਨ ਤੋਂ ਬਹੁਤ ਦੂਰ ਹਨ। ਗਾਹਕ ਸੇਵਾ ਤੋਂ ਲੈ ਕੇ ਲੌਜਿਸਟਿਕਸ ਤੱਕ, ਆਪਣੇ ਕਾਰਜਾਂ ਵਿੱਚ ਏਆਈ ਨੂੰ ਏਕੀਕ੍ਰਿਤ ਕਰਨ ਵਾਲੇ ਕਾਰੋਬਾਰਾਂ ਨੂੰ ਇਸ ਗੰਭੀਰ ਉਦਾਹਰਣ ਤੋਂ ਸਿੱਖਣਾ ਚਾਹੀਦਾ ਹੈ। ਇੱਕ ਨੁਕਸਦਾਰ ਐਲਗੋਰਿਦਮ ਜੋ ਇੱਕ ਫੌਜੀ ਟੀਚੇ ਦੀ ਗਲਤ ਪਛਾਣ ਕਰਦਾ ਹੈ ਇੱਕ ਘਾਤਕ ਅਸਫਲਤਾ ਹੈ; ਇੱਕ ਨੁਕਸਦਾਰ ਐਲਗੋਰਿਦਮ ਜੋ ਕਰਜ਼ੇ ਤੋਂ ਇਨਕਾਰ ਕਰਦਾ ਹੈ, ਇੱਕ ਯੋਗਤਾ ਪ੍ਰਾਪਤ ਨੌਕਰੀ ਬਿਨੈਕਾਰ ਨੂੰ ਫਿਲਟਰ ਕਰਦਾ ਹੈ, ਜਾਂ ਨਾਜ਼ੁਕ ਸਰੋਤਾਂ ਨੂੰ ਗਲਤ ਦਿਸ਼ਾ ਦਿੰਦਾ ਹੈ, ਅਸਲ ਮਨੁੱਖੀ ਲਾਗਤਾਂ ਦੇ ਨਾਲ, ਇੱਕ ਡੂੰਘੀ ਅਸਫਲਤਾ ਹੈ। ਇਹ ਉਹ ਥਾਂ ਹੈ ਜਿੱਥੇ ਜ਼ਮੀਨੀ ਪੱਧਰ ਤੋਂ ਇਕਸਾਰਤਾ ਨਾਲ ਸਿਸਟਮ ਬਣਾਉਣ ਦਾ ਸਿਧਾਂਤ ਸਰਵਉੱਚ ਬਣ ਜਾਂਦਾ ਹੈ। ਮੇਵੇਜ਼ ਵਰਗੇ ਪਲੇਟਫਾਰਮਾਂ ਨੂੰ ਉਹਨਾਂ ਦੇ ਮੂਲ ਰੂਪ ਵਿੱਚ ਮਾਡਿਊਲਰਿਟੀ ਅਤੇ ਪਾਰਦਰਸ਼ਤਾ ਨਾਲ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ, ਇਹ ਯਕੀਨੀ ਬਣਾਉਂਦਾ ਹੈ ਕਿ ਹਰੇਕ ਸਵੈਚਲਿਤ ਪ੍ਰਕਿਰਿਆ ਨੂੰ ਟਰੈਕ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ, ਸਮਝਿਆ ਜਾ ਸਕਦਾ ਹੈ ਅਤੇ ਐਡਜਸਟ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ। ਵਪਾਰਕ ਸੰਦਰਭ ਵਿੱਚ, ਇਹ ਪਹੁੰਚ ਛੋਟੀਆਂ ਗਲਤੀਆਂ ਨੂੰ ਸੰਚਾਲਨ ਸੰਕਟ ਵਿੱਚ ਫਸਣ ਤੋਂ ਰੋਕਦੀ ਹੈ, ਭਰੋਸੇ ਅਤੇ ਭਰੋਸੇਯੋਗਤਾ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਕਰਦੀ ਹੈ।

ਜ਼ਿੰਮੇਵਾਰ ਨਵੀਨਤਾ ਲਈ ਇੱਕ ਕਾਲ

ਇਰਾਨ ਵਿੱਚ ਸਕੂਲ ਦੇ ਨੇੜੇ ਬੰਬ ਧਮਾਕਾ ਇੱਕ ਵਾਟਰਸ਼ੈੱਡ ਪਲ ਹੈ। ਇਹ ਨਕਲੀ ਬੁੱਧੀ ਦੀਆਂ ਨੈਤਿਕ ਸੀਮਾਵਾਂ ਬਾਰੇ ਇੱਕ ਵਿਸ਼ਵਵਿਆਪੀ ਗੱਲਬਾਤ ਲਈ ਮਜਬੂਰ ਕਰਦਾ ਹੈ। ਅੱਗੇ ਵਧਣ ਲਈ ਜ਼ਿੰਮੇਵਾਰ ਨਵੀਨਤਾ ਲਈ ਸਮੂਹਿਕ ਵਚਨਬੱਧਤਾ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਇਸਦਾ ਅਰਥ ਹੈ ਪੱਖਪਾਤ ਘਟਾਉਣ ਦੀਆਂ ਤਕਨੀਕਾਂ ਵਿੱਚ ਨਿਵੇਸ਼ ਕਰਨਾ, ਸੁਰੱਖਿਆ ਵਿੱਚ AI ਦੀ ਵਰਤੋਂ ਲਈ ਅੰਤਰਰਾਸ਼ਟਰੀ ਮਾਪਦੰਡ ਸਥਾਪਤ ਕਰਨਾ, ਅਤੇ ਐਲਗੋਰਿਦਮਿਕ ਕੁਸ਼ਲਤਾ ਨਾਲੋਂ ਮਨੁੱਖੀ ਭਲਾਈ ਨੂੰ ਤਰਜੀਹ ਦੇਣਾ। ਕਿਸੇ ਵੀ ਸੰਸਥਾ ਲਈ, ਭਾਵੇਂ ਕੋਈ ਸਰਕਾਰੀ ਸੰਸਥਾ ਹੋਵੇ ਜਾਂ ਮੇਵੇਜ਼ ਵਰਗੇ ਪਲੇਟਫਾਰਮ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲਾ ਕਾਰੋਬਾਰ, ਟੀਚਾ ਅਜਿਹੇ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਬਣਾਉਣਾ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ ਜੋ ਬੁੱਧੀਮਾਨ ਸਾਧਨਾਂ ਨਾਲ ਮਨੁੱਖੀ ਨਿਰਣੇ ਨੂੰ ਸਮਰੱਥ ਬਣਾਉਂਦਾ ਹੈ, ਨਾ ਕਿ ਇਸਨੂੰ ਗੈਰ-ਜ਼ਿੰਮੇਵਾਰ ਆਟੋਮੇਸ਼ਨ ਨਾਲ ਬਦਲਣਾ ਚਾਹੀਦਾ ਹੈ। ਉਸ ਮੁਟਿਆਰ ਦੀ ਯਾਦ ਨੂੰ ਤਬਦੀਲੀ ਲਈ ਇੱਕ ਸ਼ਕਤੀਸ਼ਾਲੀ ਉਤਪ੍ਰੇਰਕ ਵਜੋਂ ਕੰਮ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ, ਜੋ ਸਾਨੂੰ ਇੱਕ ਅਜਿਹੇ ਭਵਿੱਖ ਦੇ ਨਿਰਮਾਣ ਲਈ ਪ੍ਰੇਰਿਤ ਕਰਦੀ ਹੈ ਜਿੱਥੇ ਤਕਨਾਲੋਜੀ ਮਨੁੱਖਤਾ ਦੀ ਰੱਖਿਆ ਅਤੇ ਉੱਨਤੀ ਲਈ ਕੰਮ ਕਰਦੀ ਹੈ, ਨਾ ਕਿ ਇਸਨੂੰ ਤਬਾਹ ਕਰਨ ਲਈ।