የ AI ስህተት ኢራን ውስጥ ለሴት ልጆች ትምህርት ቤት የቦምብ ጥቃት አስተዋጽዖ አድርጓል

በሰው ልጆች ጭፍን ጥላቻ እና በቴክኖሎጂ ውድቀት ላይ የተመሰረተ አሳዛኝ ክስተት

በኢራን ውስጥ በቅርቡ በደረሰው አሰቃቂ የቦምብ ፍንዳታ በትምህርት ቤቷ አቅራቢያ ለአንዲት ወጣት ሞት ምክንያት የሆነው የቦምብ ፍንዳታ በዓለም ዙሪያ አስደንጋጭ ድንጋጤ ፈጥሯል። የመጀመሪያዎቹ ዘገባዎች በአጥቂዎቹ የሰው ጥፋት ላይ ያተኮሩ ቢሆንም ከምርመራው የበለጠ ተንኮለኛ ምክንያት እየወጣ ነው፡ የሰው ሰራሽ ኢንተለጀንስ ስርዓት በዒላማ ምርጫ ሂደት ውስጥ ሊኖረው የሚችለው ሚና። ይህ ክስተት AI ገለልተኛ መሳሪያ አለመሆኑን በግልፅ ያሳያል; እሱ የፈጣሪዎቹን መረጃ እና አድሏዊነት የሚያንፀባርቅ መስታወት ነው። ኤአይአይ በከፍተኛ ደረጃ ላይ በሚገኙ አካባቢዎች ሲሰማራ የአልጎሪዝም ስህተቶች መዘዞች ስታቲስቲካዊ ጉድለቶች ብቻ አይደሉም - የጠፉ የሰው ህይወት ናቸው። ውይይቱ አሁን AI ጥቅም ላይ መዋል ከመቻሉ ላይ፣ እንደዚህ አይነት አደጋዎችን ለመከላከል እንዴት መተዳደር እንዳለበት ወደ

መሸጋገር አለበት።

አልጎሪዝም የሰው አድልኦን ሲወርስ

የብዙ AI ሲስተሞች መሰረታዊ ጉድለት በስልጠና ውሂባቸው ላይ ነው። አንድ AI በጂኦፖለቲካዊ ውጥረቶች፣ በታሪካዊ ቅሬታዎች እና በጭፍን ዘገባዎች የተሞላ መረጃ ላይ የሰለጠነ ከሆነ፣ እነዚህን ንድፎች ወደ ውስጥ ያስገባቸዋል። ከደህንነት እና ከክትትል አንፃር፣ “ስጋቶችን” የመለየት ኃላፊነት የተሰጠው AI የተወሰኑ አካባቢዎችን፣ ባህሪያትን ወይም የስነ-ሕዝብ መረጃዎችን ከአደጋ ጋር ማያያዝ ሊጀምር ይችላል፣ ይህም በእውነተኛ ጊዜ ማስረጃ ላይ ሳይሆን በተዛባ ታሪካዊ መረጃዎች ላይ ተመስርቷል። ይህ አደገኛ የግብረመልስ ዑደት ይፈጥራል፡ አልጎሪዝም በአድሎአዊ ትስስር ላይ የተመሰረተ ቦታን ይጠቁማል፣ ሰዎች በዛ ባንዲራ ላይ ይሰራሉ፣ እና ውጤቱም እርምጃ የአልጎሪዝምን ኦርጅናሌ አድልዎ ለማጠናከር እንደ ተጨማሪ “ማስረጃ” ጥቅም ላይ ይውላል። በኢራን ክስተት፣ የመጀመሪያ ዘገባዎች እንደሚያመለክቱት በ AI የሚመራ የዒላማ ስርዓት በትምህርት ቤት አቅራቢያ ያለን አካባቢ በስትራቴጂካዊ ስጋት፣ አስከፊ የሆነ ፍርድ ልብ የሚሰብሩ ውጤቶችን በስህተት ጠቁሞ ሊሆን ይችላል።

በወሳኝ ስርዓቶች ውስጥ የሰዎች ቁጥጥር አስፈላጊነት

ይህ አሳዛኝ ክስተት ለድርድር የማይቀርበውን መርህ አጽንኦት ይሰጣል፡ AI የሰውን ውሳኔ አወሳሰድ መጨመር እንጂ መተካት የለበትም። በተለይም በህይወት ወይም በሞት ሁኔታዎች ውስጥ፣ ስልተ ቀመሮችን በመሠረታዊነት የጎደሉትን ባህሪያትን ፣ ዐውደ-ጽሑፉን ለመረዳት ፣ ሥነ ምግባራዊ ዳኝነትን እና የማስተዋል ችሎታን ለመስጠት “በማንኛውንም ሰው” መኖር አለበት። አንድ AI መረጃን በሚያስገርም ፍጥነት ማካሄድ ይችላል፣ ነገር ግን የትምህርት ቤት ግቢን፣ ሆስፒታል ወይም የመኖሪያ አካባቢን ጥልቅ ጠቀሜታ ሊረዳ አይችልም። የአንድን ሕይወት ዋጋ ሊረዳ አይችልም። ጠንካራ፣ የግዴታ የሰው ልጅ ግምገማ ለራስ ገዝ ወሳኝ ውሳኔዎች በ AI ላይ መታመን የሞራል ኃላፊነትን መተው ነው። የውጤታማነት ተስፋ ከሥነ ምግባር ተጠያቂነት አስፈላጊነት ፈጽሞ ሊበልጥ አይችልም።

• Data Provenance፡ በስልጠናው መረጃ ውስጥ ያለውን አመጣጥ እና እምቅ አድልዎ ማወቅ ወደ ተጠያቂነት የመጀመሪያው እርምጃ ነው። የ
• አልጎሪዝም ግልጽነት፡ ሁሉም ኮድ ክፍት ምንጭ ሊሆን ባይችልም፣ የከፍተኛ ደረጃ AI አመክንዮ እና ቁልፍ የውሳኔ አሰጣጥ መለኪያዎች ኦዲት መደረግ አለባቸው።
• ቀጣይነት ያለው ክትትል፡ የ AI ስርአቶች ለመንሸራተት እና አዲስ ጎጂ አድሎአዊ ድህረ-ስርአት ሲፈጠሩ በየጊዜው ክትትል ሊደረግባቸው ይገባል። ተጠያቂነትን አጽዳ፡ የ AI ሲስተም ሲወድቅ ተጠያቂው ማን እንደሆነ የሚወስኑ የማያሻማ የህግ እና የስነምግባር ማዕቀፎች ሊኖሩ ይገባል።

የግንባታ የስነምግባር መከላከያ መንገዶች፡ ለንግድ እና ለህብረተሰብ ትምህርት

የዚህ ክስተት አንድምታ ከጦር ሜዳው በላይ ይዘልቃል። ከደንበኛ አገልግሎት እስከ ሎጂስቲክስ ድረስ AIን ከስራዎቻቸው ጋር የሚያዋህዱ ንግዶች ከዚህ አሳሳቢ ምሳሌ መማር አለባቸው። ወታደራዊ ኢላማውን በተሳሳተ መንገድ የሚገልጽ የተሳሳተ አልጎሪዝም አስከፊ ውድቀት ነው; ብድር የሚክድ፣ ብቁ የሆነን ሥራ አመልካች የሚያጣራ፣ ወይም ወሳኝ ግብአቶችን የሚያዛባ ስልተ-ቀመር እንዲሁ ከእውነተኛ የሰው ልጅ ወጪ ጋር ከባድ ውድቀት ነው። ይህ ከመሬት ወደ ላይ ከቅንነት ጋር ስርዓቶችን የመገንባት መርህ ዋናው ይሆናል. እንደMewayz ያሉ መድረኮች እያንዳንዱ አውቶሜትድ ሂደት መከታተል፣ መረዳት እና ማስተካከል መቻሉን በማረጋገጥ በዋና ሞዱላሪቲ እና ግልጽነት የተነደፉ ናቸው። በቢዝነስ አውድ ውስጥ፣ ይህ አካሄድ ትናንሽ ስህተቶች ወደ የስራ ቀውሶች እንዳይገቡ ይከላከላል፣ እምነትን እና አስተማማኝነትን ያጎለብታል።

"ቴክኖሎጅ ብቻውን መፍትሄ አይሆንም። እኛ የምንገነባበት እና የምናሰማራበት የስነ-ምግባር ማዕቀፍ ነው በሰው ልጅ ላይ የሚኖረውን ተፅእኖ የሚወስነው። በኢራን ውስጥ ያለው አሳዛኝ ሁኔታ ጥብቅ ቁጥጥር ካልተደረገልን ደህንነትን ለማጠናከር የምንፈጥራቸው መሳሪያዎች የከፍተኛ ኢፍትሃዊነት መሳሪያዎች ሊሆኑ እንደሚችሉ የሚያሳዝን ነው።" - ዶ/ር አናሂታ ሻርማ፣ AI የሥነ ምግባር ባለሙያ።

ለተጠያቂ ፈጠራ ጥሪ

በኢራን ትምህርት ቤት አካባቢ የደረሰው የቦምብ ጥቃት የውሃ መፋሰስ ጊዜ ነው። ስለ አርቴፊሻል ኢንተለጀንስ የሞራል ድንበሮች ዓለም አቀፋዊ ውይይት ያስገድዳል። የቀጣይ መንገድ ኃላፊነት ለሚሰማው ፈጠራ የጋራ ቁርጠኝነትን ይጠይቃል። ይህ ማለት በአድሎአዊ ቅነሳ ቴክኒኮች ላይ ኢንቨስት ማድረግ፣ AIን በደህንነት ውስጥ ለመጠቀም ዓለም አቀፍ ደንቦችን ማቋቋም እና ከአልጎሪዝም ቅልጥፍና ይልቅ ለሰው ልጅ ደህንነት ቅድሚያ መስጠት ማለት ነው። ለማንኛውም ድርጅት የመንግስት አካልም ሆነ የንግድ ድርጅት እንደመዋይዝየመሳሰሉትን መድረክ በመጠቀም ግቡ መሆን ያለበት የሰውን ልጅ ፍርድ በብልህነት የሚያጎናጽፉ ስርዓቶችን መፍጠር እንጂ ተጠያቂነት በሌለው አውቶሜሽን መተካት መሆን የለበትም። የዚያች ወጣት ልጅ ትዝታ እንደ ሃይለኛ የለውጥ አራማጅ ሆኖ ሊያገለግል ይገባል፣ ቴክኖሎጂ የሰውን ልጅ ለመጠበቅ እና ለማንፀባረቅ የሚያገለግልበትን እንጂ የሚያጠፋ ሳይሆን ወደፊት እንድንገነባ ያደርገናል።

ብዙ ጊዜ የሚጠየቁ ጥያቄዎች

በሰው ልጆች ጭፍን ጥላቻ እና በቴክኖሎጂ ውድቀት ላይ የተመሰረተ አሳዛኝ ክስተት

በኢራን ውስጥ በቅርቡ በደረሰው አሰቃቂ የቦምብ ፍንዳታ በትምህርት ቤቷ አቅራቢያ ለአንዲት ወጣት ሞት ምክንያት የሆነው የቦምብ ፍንዳታ በዓለም ዙሪያ አስደንጋጭ ድንጋጤ ፈጥሯል። የመጀመሪያዎቹ ዘገባዎች በአጥቂዎቹ የሰው ጥፋት ላይ ያተኮሩ ቢሆንም ከምርመራው የበለጠ ተንኮለኛ ምክንያት እየወጣ ነው፡ የሰው ሰራሽ ኢንተለጀንስ ስርዓት በዒላማ ምርጫ ሂደት ውስጥ ሊኖረው የሚችለው ሚና። ይህ ክስተት AI ገለልተኛ መሳሪያ አለመሆኑን በግልፅ ያሳያል; እሱ የፈጣሪዎቹን መረጃ እና አድሏዊነት የሚያንፀባርቅ መስታወት ነው። ኤአይአይ በከፍተኛ ደረጃ ላይ በሚገኙ አካባቢዎች ሲሰማራ የአልጎሪዝም ስህተቶች መዘዞች ስታቲስቲካዊ ጉድለቶች ብቻ አይደሉም - የጠፉ የሰው ህይወት ናቸው። ውይይቱ አሁን AI ጥቅም ላይ መዋል ከመቻሉ ላይ፣ እንደዚህ አይነት አደጋዎችን ለመከላከል እንዴት መተዳደር እንዳለበት ወደ

መሸጋገር አለበት።

አልጎሪዝም የሰው አድልኦን ሲወርስ

የብዙ AI ሲስተሞች መሰረታዊ ጉድለት በስልጠና ውሂባቸው ላይ ነው። አንድ AI በጂኦፖለቲካዊ ውጥረቶች፣ በታሪካዊ ቅሬታዎች እና በጭፍን ዘገባዎች የተሞላ መረጃ ላይ የሰለጠነ ከሆነ፣ እነዚህን ንድፎች ወደ ውስጥ ያስገባቸዋል። ከደህንነት እና ከክትትል አንፃር፣ “ስጋቶችን” የመለየት ኃላፊነት የተሰጠው AI የተወሰኑ አካባቢዎችን፣ ባህሪያትን ወይም የስነ-ሕዝብ መረጃዎችን ከአደጋ ጋር ማያያዝ ሊጀምር ይችላል፣ ይህም በእውነተኛ ጊዜ ማስረጃ ላይ ሳይሆን በተዛባ ታሪካዊ መረጃዎች ላይ ተመስርቷል። ይህ አደገኛ የግብረመልስ ዑደት ይፈጥራል፡ አልጎሪዝም በአድሎአዊ ትስስር ላይ የተመሰረተ ቦታን ይጠቁማል፣ ሰዎች በዛ ባንዲራ ላይ ይሰራሉ፣ እና ውጤቱም እርምጃ የአልጎሪዝምን ኦርጅናሌ አድልዎ ለማጠናከር እንደ ተጨማሪ “ማስረጃ” ጥቅም ላይ ይውላል። በኢራን ክስተት፣ የመጀመሪያ ዘገባዎች እንደሚያመለክቱት በ AI የሚመራ የዒላማ ስርዓት በትምህርት ቤት አቅራቢያ ያለን አካባቢ በስትራቴጂካዊ ስጋት፣ አስከፊ የሆነ ፍርድ ልብ የሚሰብሩ ውጤቶችን በስህተት ጠቁሞ ሊሆን ይችላል።

በወሳኝ ስርዓቶች ውስጥ የሰዎች ቁጥጥር አስፈላጊነት

ይህ አሳዛኝ ክስተት ለድርድር የማይቀርበውን መርህ አጽንኦት ይሰጣል፡ AI የሰውን ውሳኔ አወሳሰድ መጨመር እንጂ መተካት የለበትም። በተለይም በህይወት ወይም በሞት ሁኔታዎች ውስጥ፣ ስልተ ቀመሮችን በመሠረታዊነት የጎደሉትን ባህሪያትን ፣ ዐውደ-ጽሑፉን ለመረዳት ፣ ሥነ ምግባራዊ ዳኝነትን እና የማስተዋል ችሎታን ለመስጠት “በማንኛውንም ሰው” መኖር አለበት። አንድ AI መረጃን በሚያስገርም ፍጥነት ማካሄድ ይችላል፣ ነገር ግን የትምህርት ቤት ግቢን፣ ሆስፒታል ወይም የመኖሪያ አካባቢን ጥልቅ ጠቀሜታ ሊረዳ አይችልም። የአንድን ሕይወት ዋጋ ሊረዳ አይችልም። ጠንካራ፣ የግዴታ የሰው ልጅ ግምገማ ለራስ ገዝ ወሳኝ ውሳኔዎች በ AI ላይ መታመን የሞራል ኃላፊነትን መተው ነው። የውጤታማነት ተስፋ ከሥነ ምግባር ተጠያቂነት አስፈላጊነት ፈጽሞ ሊበልጥ አይችልም።

የግንባታ የስነምግባር መከላከያ መንገዶች፡ ለንግድ እና ለህብረተሰብ ትምህርት

የዚህ ክስተት አንድምታ ከጦር ሜዳው በላይ ይዘልቃል። ከደንበኛ አገልግሎት እስከ ሎጂስቲክስ ድረስ AIን ከስራዎቻቸው ጋር የሚያዋህዱ ንግዶች ከዚህ አሳሳቢ ምሳሌ መማር አለባቸው። ወታደራዊ ኢላማውን በተሳሳተ መንገድ የሚገልጽ የተሳሳተ አልጎሪዝም አስከፊ ውድቀት ነው; ብድር የሚክድ፣ ብቁ የሆነን ሥራ አመልካች የሚያጣራ፣ ወይም ወሳኝ ግብአቶችን የሚያዛባ ስልተ-ቀመር እንዲሁ ከእውነተኛ የሰው ልጅ ወጪ ጋር ከባድ ውድቀት ነው። ይህ ከመሬት ወደ ላይ ከቅንነት ጋር ስርዓቶችን የመገንባት መርህ ዋናው ይሆናል. እንደ Mewayz ያሉ መድረኮች እያንዳንዱ አውቶሜትድ ሂደት መከታተል፣ መረዳት እና ማስተካከል መቻልን በማረጋገጥ በሞዱላሪነት እና ግልጽነት የተነደፉ ናቸው። በቢዝነስ አውድ ውስጥ፣ ይህ አካሄድ ትናንሽ ስህተቶች ወደ የስራ ቀውሶች እንዳይገቡ ይከላከላል፣ እምነትን እና አስተማማኝነትን ያጎለብታል።

ለተጠያቂ ፈጠራ ጥሪ

በኢራን ትምህርት ቤት አካባቢ የደረሰው የቦምብ ጥቃት የውሃ መፋሰስ ጊዜ ነው። ስለ አርቴፊሻል ኢንተለጀንስ የሞራል ድንበሮች ዓለም አቀፋዊ ውይይት ያስገድዳል። የቀጣይ መንገድ ኃላፊነት ለሚሰማው ፈጠራ የጋራ ቁርጠኝነትን ይጠይቃል። ይህ ማለት በአድሎአዊ ቅነሳ ቴክኒኮች ላይ ኢንቨስት ማድረግ፣ AIን በደህንነት ውስጥ ለመጠቀም ዓለም አቀፍ ደንቦችን ማቋቋም እና ከአልጎሪዝም ቅልጥፍና ይልቅ ለሰው ልጅ ደህንነት ቅድሚያ መስጠት ማለት ነው። ለማንኛውም ድርጅት የመንግስት አካልም ሆነ የንግድ ድርጅት እንደ Mewayz አይነት መድረክን በመጠቀም የሰው ልጅን ዳኝነት የሚያጎናፅፉ ስርዓቶችን በብልህ መሳሪያዎች መፍጠር እንጂ ተጠያቂነት በሌለው አውቶሜሽን መተካት መሆን የለበትም። የዚያች ወጣት ልጅ ትዝታ እንደ ሃይለኛ የለውጥ አራማጅ ሆኖ ሊያገለግል ይገባል፣ ቴክኖሎጂ የሰውን ልጅ ለመጠበቅ እና ለማንፀባረቅ የሚያገለግልበትን እንጂ የሚያጠፋ ሳይሆን ወደፊት እንድንገነባ ያደርገናል።