AI ದೋಷವು ಇರಾನ್‌ನಲ್ಲಿ ಬಾಲಕಿಯರ ಶಾಲೆಯ ಬಾಂಬ್ ದಾಳಿಗೆ ಕೊಡುಗೆ ನೀಡಿರಬಹುದು

ಮಾನವ ಪೂರ್ವಾಗ್ರಹ ಮತ್ತು ತಾಂತ್ರಿಕ ವೈಫಲ್ಯದಲ್ಲಿ ಬೇರೂರಿರುವ ದುರಂತ

ಇರಾನ್‌ನಲ್ಲಿ ಇತ್ತೀಚೆಗೆ ಸಂಭವಿಸಿದ ದುರಂತ ಬಾಂಬ್ ಸ್ಫೋಟವು ತನ್ನ ಶಾಲೆಯ ಬಳಿ ಬಾಲಕಿಯ ಸಾವಿಗೆ ಕಾರಣವಾಯಿತು, ಇದು ಪ್ರಪಂಚದಾದ್ಯಂತ ಆಘಾತ ತರಂಗಗಳನ್ನು ಕಳುಹಿಸಿದೆ. ಆರಂಭಿಕ ವರದಿಗಳು ದಾಳಿಕೋರರ ಮಾನವ ಅಪರಾಧದ ಮೇಲೆ ಕೇಂದ್ರೀಕರಿಸಿದ್ದರೂ, ತನಿಖೆಯಿಂದ ಹೆಚ್ಚು ಕಪಟ ಅಂಶವು ಹೊರಹೊಮ್ಮುತ್ತಿದೆ: ಗುರಿ ಆಯ್ಕೆ ಪ್ರಕ್ರಿಯೆಯಲ್ಲಿ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ವ್ಯವಸ್ಥೆಯ ಸಂಭಾವ್ಯ ಪಾತ್ರ. ಈ ಘಟನೆಯು AI ಒಂದು ತಟಸ್ಥ ಸಾಧನವಲ್ಲ ಎಂದು ಸ್ಪಷ್ಟವಾಗಿ ವಿವರಿಸುತ್ತದೆ; ಇದು ಅದರ ರಚನೆಕಾರರ ಡೇಟಾ ಮತ್ತು ಪಕ್ಷಪಾತಗಳನ್ನು ಪ್ರತಿಬಿಂಬಿಸುವ ಕನ್ನಡಿಯಾಗಿದೆ. AI ಅನ್ನು ಉನ್ನತ ಮಟ್ಟದ ಪರಿಸರದಲ್ಲಿ ನಿಯೋಜಿಸಿದಾಗ, ಅಲ್ಗಾರಿದಮಿಕ್ ದೋಷಗಳ ಪರಿಣಾಮಗಳು ಕೇವಲ ಅಂಕಿಅಂಶಗಳ ವೈಪರೀತ್ಯಗಳಲ್ಲ-ಅವು ಮಾನವ ಜೀವಗಳನ್ನು ಕಳೆದುಕೊಂಡಿವೆ. ಚರ್ಚೆಯು ಈಗ AI ಅನ್ನು ಬಳಸಬಹುದೇ ಎಂಬುದಕ್ಕೆ ಬದಲಾಗಬೇಕು, ಅಂತಹ ದುರಂತಗಳನ್ನು ತಡೆಯಲು ಅದನ್ನು ಹೇಗೆ ನಿರ್ವಹಿಸಬೇಕು.

ಆಲ್ಗಾರಿದಮ್‌ಗಳು ಮಾನವ ಪಕ್ಷಪಾತವನ್ನು ಪಡೆದಾಗ

ಅನೇಕ AI ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿನ ಮೂಲಭೂತ ದೋಷವು ಅವರ ತರಬೇತಿ ಡೇಟಾದಲ್ಲಿದೆ. ಭೌಗೋಳಿಕ ರಾಜಕೀಯ ಉದ್ವಿಗ್ನತೆಗಳು, ಐತಿಹಾಸಿಕ ಕುಂದುಕೊರತೆಗಳು ಮತ್ತು ಪೂರ್ವಾಗ್ರಹ ಪೀಡಿತ ವರದಿಗಳೊಂದಿಗೆ ಸ್ಯಾಚುರೇಟೆಡ್ ಮಾಹಿತಿಯ ಮೇಲೆ AI ತರಬೇತಿ ಪಡೆದರೆ, ಅದು ಈ ಮಾದರಿಗಳನ್ನು ಆಂತರಿಕಗೊಳಿಸುತ್ತದೆ. ಭದ್ರತೆ ಮತ್ತು ಕಣ್ಗಾವಲಿನ ಸಂದರ್ಭದಲ್ಲಿ, "ಬೆದರಿಕೆಗಳನ್ನು" ಗುರುತಿಸುವ ಕಾರ್ಯವನ್ನು ನಿರ್ವಹಿಸುವ AI ಕೆಲವು ಸ್ಥಳಗಳು, ನಡವಳಿಕೆಗಳು ಅಥವಾ ಜನಸಂಖ್ಯಾಶಾಸ್ತ್ರವನ್ನು ಅಪಾಯದೊಂದಿಗೆ ಸಂಯೋಜಿಸಲು ಪ್ರಾರಂಭಿಸಬಹುದು, ನೈಜ-ಸಮಯದ ಸಾಕ್ಷ್ಯವನ್ನು ಆಧರಿಸಿಲ್ಲ ಆದರೆ ಅದು ನೀಡಲಾದ ತಿರುಚಿದ ಐತಿಹಾಸಿಕ ದತ್ತಾಂಶವನ್ನು ಆಧರಿಸಿದೆ. ಇದು ಅಪಾಯಕಾರಿ ಪ್ರತಿಕ್ರಿಯೆ ಲೂಪ್ ಅನ್ನು ರಚಿಸುತ್ತದೆ: ಅಲ್ಗಾರಿದಮ್ ಪಕ್ಷಪಾತದ ಪರಸ್ಪರ ಸಂಬಂಧದ ಆಧಾರದ ಮೇಲೆ ಸ್ಥಳವನ್ನು ಫ್ಲ್ಯಾಗ್ ಮಾಡುತ್ತದೆ, ಮಾನವರು ಆ ಧ್ವಜದ ಮೇಲೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಾರೆ ಮತ್ತು ಪರಿಣಾಮವಾಗಿ ಕ್ರಿಯೆಯನ್ನು ನಂತರ ಅಲ್ಗಾರಿದಮ್‌ನ ಮೂಲ ಪಕ್ಷಪಾತವನ್ನು ಬಲಪಡಿಸಲು ಮತ್ತಷ್ಟು "ಪುರಾವೆ" ಎಂದು ಬಳಸಲಾಗುತ್ತದೆ. ಇರಾನ್ ಘಟನೆಯಲ್ಲಿ, ಪ್ರಾಥಮಿಕ ವರದಿಗಳು AI-ಚಾಲಿತ ಗುರಿ ವ್ಯವಸ್ಥೆಯು ಶಾಲೆಯ ಸಮೀಪವಿರುವ ಪ್ರದೇಶವನ್ನು ಕಾರ್ಯತಂತ್ರದ ಬೆದರಿಕೆ ಎಂದು ತಪ್ಪಾಗಿ ಫ್ಲ್ಯಾಗ್ ಮಾಡಿರಬಹುದು, ಹೃದಯವಿದ್ರಾವಕ ಫಲಿತಾಂಶಗಳೊಂದಿಗೆ ದುರಂತದ ತಪ್ಪು ನಿರ್ಣಯವಾಗಿದೆ.

ನಿರ್ಣಾಯಕ ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿ ಮಾನವ ಮೇಲ್ವಿಚಾರಣೆಯ ಕಡ್ಡಾಯ

ಈ ದುರಂತವು ನೆಗೋಶಬಲ್ ಅಲ್ಲದ ತತ್ವವನ್ನು ಒತ್ತಿಹೇಳುತ್ತದೆ: AI ಮಾನವ ನಿರ್ಧಾರ-ನಿರ್ಧಾರವನ್ನು ಹೆಚ್ಚಿಸಬೇಕು, ಅದನ್ನು ಬದಲಿಸಬಾರದು. ವಿಶೇಷವಾಗಿ ಜೀವನ-ಅಥವಾ-ಸಾವಿನ ಸನ್ನಿವೇಶಗಳಲ್ಲಿ, ಸಾಂದರ್ಭಿಕ ತಿಳುವಳಿಕೆ, ನೈತಿಕ ತೀರ್ಪು ಮತ್ತು ಸಾಮಾನ್ಯ ಜ್ಞಾನವನ್ನು ಒದಗಿಸಲು "ಹ್ಯೂಮನ್ ಇನ್ ದಿ ಲೂಪ್" ಇರಬೇಕು - ಅಲ್ಗಾರಿದಮ್‌ಗಳು ಮೂಲಭೂತವಾಗಿ ಕೊರತೆಯಿರುವ ಗುಣಗಳು. AI ನಂಬಲಸಾಧ್ಯವಾದ ವೇಗದಲ್ಲಿ ಡೇಟಾವನ್ನು ಪ್ರಕ್ರಿಯೆಗೊಳಿಸುತ್ತದೆ, ಆದರೆ ಇದು ಶಾಲೆಯ ಅಂಗಳ, ಆಸ್ಪತ್ರೆ ಅಥವಾ ವಸತಿ ಪ್ರದೇಶದ ಆಳವಾದ ಪ್ರಾಮುಖ್ಯತೆಯನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು ಸಾಧ್ಯವಿಲ್ಲ. ಅದು ಒಂದೇ ಜೀವನದ ಮೌಲ್ಯವನ್ನು ಗ್ರಹಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ. ದೃಢವಾದ, ಕಡ್ಡಾಯ ಮಾನವ ವಿಮರ್ಶೆಯಿಲ್ಲದೆ ಸ್ವಾಯತ್ತ ನಿರ್ಣಾಯಕ ನಿರ್ಧಾರಗಳಿಗಾಗಿ AI ಅನ್ನು ಅವಲಂಬಿಸಿರುವುದು ನೈತಿಕ ಹೊಣೆಗಾರಿಕೆಯ ತ್ಯಜಿಸುವಿಕೆಯಾಗಿದೆ. ದಕ್ಷತೆಯ ಭರವಸೆಯು ನೈತಿಕ ಹೊಣೆಗಾರಿಕೆಯ ಅಗತ್ಯವನ್ನು ಎಂದಿಗೂ ಮೀರಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ.

• ಡೇಟಾ ಪ್ರೊವೆನೆನ್ಸ್: ತರಬೇತಿ ಡೇಟಾದಲ್ಲಿ ಮೂಲ ಮತ್ತು ಸಂಭಾವ್ಯ ಪಕ್ಷಪಾತಗಳನ್ನು ತಿಳಿದುಕೊಳ್ಳುವುದು ಹೊಣೆಗಾರಿಕೆಯ ಕಡೆಗೆ ಮೊದಲ ಹೆಜ್ಜೆಯಾಗಿದೆ.
• ಅಲ್ಗಾರಿದಮಿಕ್ ಪಾರದರ್ಶಕತೆ: ಎಲ್ಲಾ ಕೋಡ್ ಓಪನ್ ಸೋರ್ಸ್ ಆಗದಿದ್ದರೂ, ಹೈ-ಸ್ಟೇಕ್ಸ್ AI ಯ ತರ್ಕ ಮತ್ತು ಪ್ರಮುಖ ನಿರ್ಧಾರ-ಮಾಡುವ ಪ್ಯಾರಾಮೀಟರ್‌ಗಳು ಆಡಿಟ್ ಆಗಿರಬೇಕು.
• ನಿರಂತರ ಮಾನಿಟರಿಂಗ್: AI ವ್ಯವಸ್ಥೆಗಳು ಡ್ರಿಫ್ಟ್ ಮತ್ತು ನಿಯೋಜನೆಯ ನಂತರದ ಹೊಸ, ಹಾನಿಕಾರಕ ಪಕ್ಷಪಾತಗಳ ಹೊರಹೊಮ್ಮುವಿಕೆಗಾಗಿ ನಿರಂತರವಾಗಿ ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡಬೇಕು.
• ಅಕೌಂಟೆಬಿಲಿಟಿ ತೆರವುಗೊಳಿಸಿ: AI ವ್ಯವಸ್ಥೆಯು ವಿಫಲವಾದಾಗ ಯಾರು ಜವಾಬ್ದಾರರು ಎಂಬುದನ್ನು ವಿವರಿಸುವ ನಿಸ್ಸಂದಿಗ್ಧವಾದ ಕಾನೂನು ಮತ್ತು ನೈತಿಕ ಚೌಕಟ್ಟುಗಳು ಇರಬೇಕು.

ಎಥಿಕಲ್ ಗಾರ್ಡ್ರೈಲ್‌ಗಳನ್ನು ನಿರ್ಮಿಸುವುದು: ವ್ಯಾಪಾರ ಮತ್ತು ಸಮಾಜಕ್ಕೆ ಒಂದು ಪಾಠ

ಈ ಘಟನೆಯ ಪರಿಣಾಮಗಳು ಯುದ್ಧಭೂಮಿಯ ಆಚೆಗೂ ವಿಸ್ತರಿಸುತ್ತವೆ. ಗ್ರಾಹಕ ಸೇವೆಯಿಂದ ಲಾಜಿಸ್ಟಿಕ್ಸ್‌ವರೆಗೆ ತಮ್ಮ ಕಾರ್ಯಾಚರಣೆಗಳಲ್ಲಿ AI ಅನ್ನು ಸಂಯೋಜಿಸುವ ವ್ಯವಹಾರಗಳು ಈ ಗಂಭೀರ ಉದಾಹರಣೆಯಿಂದ ಕಲಿಯಬೇಕು. ಮಿಲಿಟರಿ ಗುರಿಯನ್ನು ತಪ್ಪಾಗಿ ಗುರುತಿಸುವ ದೋಷಪೂರಿತ ಅಲ್ಗಾರಿದಮ್ ಒಂದು ದುರಂತ ವೈಫಲ್ಯವಾಗಿದೆ; ಲೋನ್ ಅನ್ನು ನಿರಾಕರಿಸುವ, ಅರ್ಹ ಉದ್ಯೋಗದ ಅರ್ಜಿದಾರರನ್ನು ಫಿಲ್ಟರ್ ಮಾಡುವ ಅಥವಾ ನಿರ್ಣಾಯಕ ಸಂಪನ್ಮೂಲಗಳನ್ನು ತಪ್ಪಾಗಿ ನಿರ್ದೇಶಿಸುವ ದೋಷಯುಕ್ತ ಅಲ್ಗಾರಿದಮ್ ಸಹ ನಿಜವಾದ ಮಾನವ ವೆಚ್ಚಗಳೊಂದಿಗೆ ಆಳವಾದ ವೈಫಲ್ಯವಾಗಿದೆ. ಇಲ್ಲಿಯೇ ತಳಮಟ್ಟದಿಂದ ಸಮಗ್ರತೆಯೊಂದಿಗೆ ವ್ಯವಸ್ಥೆಗಳನ್ನು ನಿರ್ಮಿಸುವ ತತ್ವವು ಅತ್ಯುನ್ನತವಾಗಿದೆ. Mewayz ನಂತಹ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ಗಳನ್ನು ಅವುಗಳ ಮಧ್ಯಭಾಗದಲ್ಲಿ ಮಾಡ್ಯುಲಾರಿಟಿ ಮತ್ತು ಪಾರದರ್ಶಕತೆಯೊಂದಿಗೆ ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ, ಪ್ರತಿ ಸ್ವಯಂಚಾಲಿತ ಪ್ರಕ್ರಿಯೆಯನ್ನು ಟ್ರ್ಯಾಕ್ ಮಾಡಬಹುದು, ಅರ್ಥಮಾಡಿಕೊಳ್ಳಬಹುದು ಮತ್ತು ಸರಿಹೊಂದಿಸಬಹುದು. ವ್ಯಾಪಾರದ ಸನ್ನಿವೇಶದಲ್ಲಿ, ಈ ವಿಧಾನವು ಕಾರ್ಯಾಚರಣೆಯ ಬಿಕ್ಕಟ್ಟುಗಳಿಗೆ ಕ್ಯಾಸ್ಕೇಡ್ ಮಾಡುವುದರಿಂದ ಸಣ್ಣ ದೋಷಗಳನ್ನು ತಡೆಯುತ್ತದೆ, ನಂಬಿಕೆ ಮತ್ತು ವಿಶ್ವಾಸಾರ್ಹತೆಯನ್ನು ಉತ್ತೇಜಿಸುತ್ತದೆ.

"ತಂತ್ರಜ್ಞಾನವೊಂದೇ ಪರಿಹಾರವಲ್ಲ. ನಾವು ಅದನ್ನು ನಿರ್ಮಿಸುವ ಮತ್ತು ನಿಯೋಜಿಸುವ ನೈತಿಕ ಚೌಕಟ್ಟು ಮಾನವೀಯತೆಯ ಮೇಲೆ ಅದರ ಪ್ರಭಾವವನ್ನು ನಿರ್ಧರಿಸುತ್ತದೆ. ಇರಾನ್‌ನಲ್ಲಿನ ದುರಂತವು ಕಠಿಣವಾದ ಮೇಲ್ವಿಚಾರಣೆಯಿಲ್ಲದೆ, ಭದ್ರತೆಯನ್ನು ಹೆಚ್ಚಿಸಲು ನಾವು ರಚಿಸುವ ಸಾಧನಗಳು ಆಳವಾದ ಅನ್ಯಾಯದ ಸಾಧನಗಳಾಗಬಹುದು ಎಂಬುದನ್ನು ಕಠೋರವಾದ ಜ್ಞಾಪನೆಯಾಗಿದೆ." - ಡಾ. ಅನಾಹಿತಾ ಶರ್ಮಾ, ಎಐ ಎಥಿಸಿಸ್ಟ್.

ಜವಾಬ್ದಾರಿಯುತ ನಾವೀನ್ಯತೆಗಾಗಿ ಕರೆ

ಇರಾನ್‌ನ ಶಾಲೆಯ ಬಳಿ ಬಾಂಬ್ ಸ್ಫೋಟವು ಒಂದು ಜಲಪಾತದ ಕ್ಷಣವಾಗಿದೆ. ಇದು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ನೈತಿಕ ಗಡಿಗಳ ಬಗ್ಗೆ ಜಾಗತಿಕ ಸಂಭಾಷಣೆಯನ್ನು ಒತ್ತಾಯಿಸುತ್ತದೆ. ಮುಂದಿನ ಹಾದಿಗೆ ಜವಾಬ್ದಾರಿಯುತ ನಾವೀನ್ಯತೆಗೆ ಸಾಮೂಹಿಕ ಬದ್ಧತೆಯ ಅಗತ್ಯವಿದೆ. ಇದರರ್ಥ ಪಕ್ಷಪಾತ ತಗ್ಗಿಸುವ ತಂತ್ರಗಳಲ್ಲಿ ಹೂಡಿಕೆ ಮಾಡುವುದು, ಭದ್ರತೆಯಲ್ಲಿ AI ಬಳಕೆಗಾಗಿ ಅಂತರರಾಷ್ಟ್ರೀಯ ಮಾನದಂಡಗಳನ್ನು ಸ್ಥಾಪಿಸುವುದು ಮತ್ತು ಅಲ್ಗಾರಿದಮಿಕ್ ದಕ್ಷತೆಯ ಮೇಲೆ ಮಾನವ ಕಲ್ಯಾಣಕ್ಕೆ ಆದ್ಯತೆ ನೀಡುವುದು. ಯಾವುದೇ ಸಂಸ್ಥೆಗೆ, Mewayz ನಂತಹ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್ ಅನ್ನು ಬಳಸುವ ಸರ್ಕಾರಿ ಸಂಸ್ಥೆ ಅಥವಾ ವ್ಯಾಪಾರವಾಗಲಿ, ಬುದ್ಧಿವಂತ ಪರಿಕರಗಳೊಂದಿಗೆ ಮಾನವ ನಿರ್ಣಯವನ್ನು ಸಶಕ್ತಗೊಳಿಸುವ ವ್ಯವಸ್ಥೆಗಳನ್ನು ರಚಿಸುವುದು ಗುರಿಯಾಗಿರಬೇಕು, ಅದನ್ನು ಲೆಕ್ಕಿಸಲಾಗದ ಯಾಂತ್ರೀಕೃತಗೊಳಿಸುವಿಕೆಯಿಂದ ಬದಲಾಯಿಸಬಾರದು. ಆ ಚಿಕ್ಕ ಹುಡುಗಿಯ ಸ್ಮರಣೆಯು ಬದಲಾವಣೆಗೆ ಶಕ್ತಿಯುತವಾದ ವೇಗವರ್ಧಕವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸಬೇಕು, ತಂತ್ರಜ್ಞಾನವು ಮಾನವೀಯತೆಯನ್ನು ರಕ್ಷಿಸಲು ಮತ್ತು ಮೇಲಕ್ಕೆತ್ತಲು ಕಾರ್ಯನಿರ್ವಹಿಸುವ ಭವಿಷ್ಯವನ್ನು ನಿರ್ಮಿಸಲು ನಮ್ಮನ್ನು ಪ್ರೇರೇಪಿಸುತ್ತದೆ, ಅದನ್ನು ನಾಶಮಾಡುವುದಿಲ್ಲ.

ಪದೇ ಪದೇ ಕೇಳಲಾಗುವ ಪ್ರಶ್ನೆಗಳು

ಮಾನವ ಪೂರ್ವಾಗ್ರಹ ಮತ್ತು ತಾಂತ್ರಿಕ ವೈಫಲ್ಯದಲ್ಲಿ ಬೇರೂರಿರುವ ದುರಂತ

ಇರಾನ್‌ನಲ್ಲಿ ಇತ್ತೀಚೆಗೆ ಸಂಭವಿಸಿದ ದುರಂತ ಬಾಂಬ್ ಸ್ಫೋಟವು ತನ್ನ ಶಾಲೆಯ ಬಳಿ ಬಾಲಕಿಯ ಸಾವಿಗೆ ಕಾರಣವಾಯಿತು, ಇದು ಪ್ರಪಂಚದಾದ್ಯಂತ ಆಘಾತ ತರಂಗಗಳನ್ನು ಕಳುಹಿಸಿದೆ. ಆರಂಭಿಕ ವರದಿಗಳು ದಾಳಿಕೋರರ ಮಾನವ ಅಪರಾಧದ ಮೇಲೆ ಕೇಂದ್ರೀಕರಿಸಿದ್ದರೂ, ತನಿಖೆಯಿಂದ ಹೆಚ್ಚು ಕಪಟ ಅಂಶವು ಹೊರಹೊಮ್ಮುತ್ತಿದೆ: ಗುರಿ ಆಯ್ಕೆ ಪ್ರಕ್ರಿಯೆಯಲ್ಲಿ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ವ್ಯವಸ್ಥೆಯ ಸಂಭಾವ್ಯ ಪಾತ್ರ. ಈ ಘಟನೆಯು AI ಒಂದು ತಟಸ್ಥ ಸಾಧನವಲ್ಲ ಎಂದು ಸ್ಪಷ್ಟವಾಗಿ ವಿವರಿಸುತ್ತದೆ; ಇದು ಅದರ ರಚನೆಕಾರರ ಡೇಟಾ ಮತ್ತು ಪಕ್ಷಪಾತಗಳನ್ನು ಪ್ರತಿಬಿಂಬಿಸುವ ಕನ್ನಡಿಯಾಗಿದೆ. AI ಅನ್ನು ಉನ್ನತ ಮಟ್ಟದ ಪರಿಸರದಲ್ಲಿ ನಿಯೋಜಿಸಿದಾಗ, ಅಲ್ಗಾರಿದಮಿಕ್ ದೋಷಗಳ ಪರಿಣಾಮಗಳು ಕೇವಲ ಅಂಕಿಅಂಶಗಳ ವೈಪರೀತ್ಯಗಳಲ್ಲ-ಅವು ಮಾನವ ಜೀವಗಳನ್ನು ಕಳೆದುಕೊಂಡಿವೆ. ಚರ್ಚೆಯು ಈಗ AI ಅನ್ನು ಬಳಸಬಹುದೇ ಎಂಬುದಕ್ಕೆ ಬದಲಾಗಬೇಕು, ಅಂತಹ ದುರಂತಗಳನ್ನು ತಡೆಯಲು ಅದನ್ನು ಹೇಗೆ ನಿರ್ವಹಿಸಬೇಕು.

ಆಲ್ಗಾರಿದಮ್‌ಗಳು ಮಾನವ ಪಕ್ಷಪಾತವನ್ನು ಪಡೆದಾಗ

ಅನೇಕ AI ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿನ ಮೂಲಭೂತ ದೋಷವು ಅವರ ತರಬೇತಿ ಡೇಟಾದಲ್ಲಿದೆ. ಭೌಗೋಳಿಕ ರಾಜಕೀಯ ಉದ್ವಿಗ್ನತೆಗಳು, ಐತಿಹಾಸಿಕ ಕುಂದುಕೊರತೆಗಳು ಮತ್ತು ಪೂರ್ವಾಗ್ರಹ ಪೀಡಿತ ವರದಿಗಳೊಂದಿಗೆ ಸ್ಯಾಚುರೇಟೆಡ್ ಮಾಹಿತಿಯ ಮೇಲೆ AI ತರಬೇತಿ ಪಡೆದರೆ, ಅದು ಈ ಮಾದರಿಗಳನ್ನು ಆಂತರಿಕಗೊಳಿಸುತ್ತದೆ. ಭದ್ರತೆ ಮತ್ತು ಕಣ್ಗಾವಲಿನ ಸಂದರ್ಭದಲ್ಲಿ, "ಬೆದರಿಕೆಗಳನ್ನು" ಗುರುತಿಸುವ ಕಾರ್ಯವನ್ನು ನಿರ್ವಹಿಸುವ AI ಕೆಲವು ಸ್ಥಳಗಳು, ನಡವಳಿಕೆಗಳು ಅಥವಾ ಜನಸಂಖ್ಯಾಶಾಸ್ತ್ರವನ್ನು ಅಪಾಯದೊಂದಿಗೆ ಸಂಯೋಜಿಸಲು ಪ್ರಾರಂಭಿಸಬಹುದು, ನೈಜ-ಸಮಯದ ಸಾಕ್ಷ್ಯವನ್ನು ಆಧರಿಸಿಲ್ಲ ಆದರೆ ಅದು ನೀಡಲಾದ ತಿರುಚಿದ ಐತಿಹಾಸಿಕ ದತ್ತಾಂಶವನ್ನು ಆಧರಿಸಿದೆ. ಇದು ಅಪಾಯಕಾರಿ ಪ್ರತಿಕ್ರಿಯೆ ಲೂಪ್ ಅನ್ನು ರಚಿಸುತ್ತದೆ: ಅಲ್ಗಾರಿದಮ್ ಪಕ್ಷಪಾತದ ಪರಸ್ಪರ ಸಂಬಂಧದ ಆಧಾರದ ಮೇಲೆ ಸ್ಥಳವನ್ನು ಫ್ಲ್ಯಾಗ್ ಮಾಡುತ್ತದೆ, ಮಾನವರು ಆ ಧ್ವಜದ ಮೇಲೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಾರೆ ಮತ್ತು ಪರಿಣಾಮವಾಗಿ ಕ್ರಿಯೆಯನ್ನು ನಂತರ ಅಲ್ಗಾರಿದಮ್‌ನ ಮೂಲ ಪಕ್ಷಪಾತವನ್ನು ಬಲಪಡಿಸಲು ಮತ್ತಷ್ಟು "ಪುರಾವೆ" ಎಂದು ಬಳಸಲಾಗುತ್ತದೆ. ಇರಾನ್ ಘಟನೆಯಲ್ಲಿ, ಪ್ರಾಥಮಿಕ ವರದಿಗಳು AI-ಚಾಲಿತ ಗುರಿ ವ್ಯವಸ್ಥೆಯು ಶಾಲೆಯ ಸಮೀಪವಿರುವ ಪ್ರದೇಶವನ್ನು ಕಾರ್ಯತಂತ್ರದ ಬೆದರಿಕೆ ಎಂದು ತಪ್ಪಾಗಿ ಫ್ಲ್ಯಾಗ್ ಮಾಡಿರಬಹುದು, ಹೃದಯವಿದ್ರಾವಕ ಫಲಿತಾಂಶಗಳೊಂದಿಗೆ ದುರಂತದ ತಪ್ಪು ನಿರ್ಣಯವಾಗಿದೆ.

ಕ್ರಿಟಿಕಲ್ ಸಿಸ್ಟಮ್ಸ್‌ನಲ್ಲಿ ಮಾನವ ಮೇಲ್ವಿಚಾರಣೆಯ ಕಡ್ಡಾಯ

ಈ ದುರಂತವು ನೆಗೋಶಬಲ್ ಅಲ್ಲದ ತತ್ವವನ್ನು ಒತ್ತಿಹೇಳುತ್ತದೆ: AI ಮಾನವ ನಿರ್ಧಾರ-ನಿರ್ಧಾರವನ್ನು ಹೆಚ್ಚಿಸಬೇಕು, ಅದನ್ನು ಬದಲಿಸಬಾರದು. ವಿಶೇಷವಾಗಿ ಜೀವನ-ಅಥವಾ-ಸಾವಿನ ಸನ್ನಿವೇಶಗಳಲ್ಲಿ, ಸಾಂದರ್ಭಿಕ ತಿಳುವಳಿಕೆ, ನೈತಿಕ ತೀರ್ಪು ಮತ್ತು ಸಾಮಾನ್ಯ ಜ್ಞಾನವನ್ನು ಒದಗಿಸಲು "ಹ್ಯೂಮನ್ ಇನ್ ದಿ ಲೂಪ್" ಇರಬೇಕು - ಅಲ್ಗಾರಿದಮ್‌ಗಳು ಮೂಲಭೂತವಾಗಿ ಕೊರತೆಯಿರುವ ಗುಣಗಳು. AI ನಂಬಲಸಾಧ್ಯವಾದ ವೇಗದಲ್ಲಿ ಡೇಟಾವನ್ನು ಪ್ರಕ್ರಿಯೆಗೊಳಿಸುತ್ತದೆ, ಆದರೆ ಇದು ಶಾಲೆಯ ಅಂಗಳ, ಆಸ್ಪತ್ರೆ ಅಥವಾ ವಸತಿ ಪ್ರದೇಶದ ಆಳವಾದ ಪ್ರಾಮುಖ್ಯತೆಯನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು ಸಾಧ್ಯವಿಲ್ಲ. ಅದು ಒಂದೇ ಜೀವನದ ಮೌಲ್ಯವನ್ನು ಗ್ರಹಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ. ದೃಢವಾದ, ಕಡ್ಡಾಯ ಮಾನವ ವಿಮರ್ಶೆಯಿಲ್ಲದೆ ಸ್ವಾಯತ್ತ ನಿರ್ಣಾಯಕ ನಿರ್ಧಾರಗಳಿಗಾಗಿ AI ಅನ್ನು ಅವಲಂಬಿಸಿರುವುದು ನೈತಿಕ ಹೊಣೆಗಾರಿಕೆಯ ತ್ಯಜಿಸುವಿಕೆಯಾಗಿದೆ. ದಕ್ಷತೆಯ ಭರವಸೆಯು ನೈತಿಕ ಹೊಣೆಗಾರಿಕೆಯ ಅಗತ್ಯವನ್ನು ಎಂದಿಗೂ ಮೀರಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ.

ಎಥಿಕಲ್ ಗಾರ್ಡ್ರೈಲ್‌ಗಳನ್ನು ನಿರ್ಮಿಸುವುದು: ವ್ಯಾಪಾರ ಮತ್ತು ಸಮಾಜಕ್ಕೆ ಒಂದು ಪಾಠ

ಈ ಘಟನೆಯ ಪರಿಣಾಮಗಳು ಯುದ್ಧಭೂಮಿಯ ಆಚೆಗೂ ವಿಸ್ತರಿಸುತ್ತವೆ. ಗ್ರಾಹಕ ಸೇವೆಯಿಂದ ಲಾಜಿಸ್ಟಿಕ್ಸ್‌ವರೆಗೆ ತಮ್ಮ ಕಾರ್ಯಾಚರಣೆಗಳಲ್ಲಿ AI ಅನ್ನು ಸಂಯೋಜಿಸುವ ವ್ಯವಹಾರಗಳು ಈ ಗಂಭೀರ ಉದಾಹರಣೆಯಿಂದ ಕಲಿಯಬೇಕು. ಮಿಲಿಟರಿ ಗುರಿಯನ್ನು ತಪ್ಪಾಗಿ ಗುರುತಿಸುವ ದೋಷಪೂರಿತ ಅಲ್ಗಾರಿದಮ್ ಒಂದು ದುರಂತ ವೈಫಲ್ಯವಾಗಿದೆ; ಲೋನ್ ಅನ್ನು ನಿರಾಕರಿಸುವ, ಅರ್ಹ ಉದ್ಯೋಗದ ಅರ್ಜಿದಾರರನ್ನು ಫಿಲ್ಟರ್ ಮಾಡುವ ಅಥವಾ ನಿರ್ಣಾಯಕ ಸಂಪನ್ಮೂಲಗಳನ್ನು ತಪ್ಪಾಗಿ ನಿರ್ದೇಶಿಸುವ ದೋಷಯುಕ್ತ ಅಲ್ಗಾರಿದಮ್ ಸಹ ನಿಜವಾದ ಮಾನವ ವೆಚ್ಚಗಳೊಂದಿಗೆ ಆಳವಾದ ವೈಫಲ್ಯವಾಗಿದೆ. ಇಲ್ಲಿಯೇ ತಳಮಟ್ಟದಿಂದ ಸಮಗ್ರತೆಯೊಂದಿಗೆ ವ್ಯವಸ್ಥೆಗಳನ್ನು ನಿರ್ಮಿಸುವ ತತ್ವವು ಅತ್ಯುನ್ನತವಾಗಿದೆ. Mewayz ನಂತಹ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ಗಳನ್ನು ಅವುಗಳ ಮಧ್ಯಭಾಗದಲ್ಲಿ ಮಾಡ್ಯುಲಾರಿಟಿ ಮತ್ತು ಪಾರದರ್ಶಕತೆಯೊಂದಿಗೆ ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ, ಪ್ರತಿ ಸ್ವಯಂಚಾಲಿತ ಪ್ರಕ್ರಿಯೆಯನ್ನು ಟ್ರ್ಯಾಕ್ ಮಾಡಬಹುದು, ಅರ್ಥಮಾಡಿಕೊಳ್ಳಬಹುದು ಮತ್ತು ಸರಿಹೊಂದಿಸಬಹುದು. ವ್ಯಾಪಾರದ ಸನ್ನಿವೇಶದಲ್ಲಿ, ಈ ವಿಧಾನವು ಕಾರ್ಯಾಚರಣೆಯ ಬಿಕ್ಕಟ್ಟುಗಳಿಗೆ ಕ್ಯಾಸ್ಕೇಡ್ ಮಾಡುವುದರಿಂದ ಸಣ್ಣ ದೋಷಗಳನ್ನು ತಡೆಯುತ್ತದೆ, ನಂಬಿಕೆ ಮತ್ತು ವಿಶ್ವಾಸಾರ್ಹತೆಯನ್ನು ಉತ್ತೇಜಿಸುತ್ತದೆ.

ಜವಾಬ್ದಾರಿಯುತ ನಾವೀನ್ಯತೆಗಾಗಿ ಕರೆ

ಇರಾನ್‌ನ ಶಾಲೆಯ ಬಳಿ ಬಾಂಬ್ ಸ್ಫೋಟವು ಒಂದು ಜಲಪಾತದ ಕ್ಷಣವಾಗಿದೆ. ಇದು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ನೈತಿಕ ಗಡಿಗಳ ಬಗ್ಗೆ ಜಾಗತಿಕ ಸಂಭಾಷಣೆಯನ್ನು ಒತ್ತಾಯಿಸುತ್ತದೆ. ಮುಂದಿನ ಹಾದಿಗೆ ಜವಾಬ್ದಾರಿಯುತ ನಾವೀನ್ಯತೆಗೆ ಸಾಮೂಹಿಕ ಬದ್ಧತೆಯ ಅಗತ್ಯವಿದೆ. ಇದರರ್ಥ ಪಕ್ಷಪಾತ ತಗ್ಗಿಸುವ ತಂತ್ರಗಳಲ್ಲಿ ಹೂಡಿಕೆ ಮಾಡುವುದು, ಭದ್ರತೆಯಲ್ಲಿ AI ಬಳಕೆಗಾಗಿ ಅಂತರರಾಷ್ಟ್ರೀಯ ಮಾನದಂಡಗಳನ್ನು ಸ್ಥಾಪಿಸುವುದು ಮತ್ತು ಅಲ್ಗಾರಿದಮಿಕ್ ದಕ್ಷತೆಯ ಮೇಲೆ ಮಾನವ ಕಲ್ಯಾಣಕ್ಕೆ ಆದ್ಯತೆ ನೀಡುವುದು. ಯಾವುದೇ ಸಂಸ್ಥೆಗೆ, ಸರ್ಕಾರಿ ಸಂಸ್ಥೆಯಾಗಿರಲಿ ಅಥವಾ ಮೆವೇಜ್‌ನಂತಹ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್ ಅನ್ನು ಬಳಸುವ ವ್ಯಾಪಾರವಾಗಲಿ, ಮಾನವನ ನಿರ್ಣಯವನ್ನು ಬುದ್ಧಿವಂತ ಪರಿಕರಗಳೊಂದಿಗೆ ಸಶಕ್ತಗೊಳಿಸುವ ವ್ಯವಸ್ಥೆಯನ್ನು ರಚಿಸುವುದು ಗುರಿಯಾಗಿರಬೇಕು, ಅದನ್ನು ಲೆಕ್ಕಿಸಲಾಗದ ಯಾಂತ್ರೀಕೃತಗೊಳಿಸುವಿಕೆಯಿಂದ ಬದಲಾಯಿಸಬಾರದು. ಆ ಚಿಕ್ಕ ಹುಡುಗಿಯ ಸ್ಮರಣೆಯು ಬದಲಾವಣೆಗೆ ಶಕ್ತಿಯುತವಾದ ವೇಗವರ್ಧಕವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸಬೇಕು, ತಂತ್ರಜ್ಞಾನವು ಮಾನವೀಯತೆಯನ್ನು ರಕ್ಷಿಸಲು ಮತ್ತು ಮೇಲಕ್ಕೆತ್ತಲು ಕಾರ್ಯನಿರ್ವಹಿಸುವ ಭವಿಷ್ಯವನ್ನು ನಿರ್ಮಿಸಲು ನಮ್ಮನ್ನು ಪ್ರೇರೇಪಿಸುತ್ತದೆ, ಅದನ್ನು ನಾಶಮಾಡುವುದಿಲ್ಲ.