የቴነሲ ሴት አያት የ AI ፊት ማወቂያ ስህተት እሷን ከማጭበርበር ጋር አቆራኝቷታል።

<ሰውነት>

የቴነሲ ሴት አያቶች መታሰር የኤአይአይን የተሳሳተ እይታ አጋልጧል

ወንጀለኛ እንደሆንክ የሚናገሩ የፖሊስ መኮንኖች በርህ ሲንኳኳ እና እንደማይቻል የምታውቀውን ማስረጃ በማቅረብ አስብ። የፊት ለይቶ ማወቂያ አልጎሪዝም ባለው የተሳሳተ አስተያየት ላይ በመመስረት በስህተት ተይዛ ላልሰራችው ወንጀል በስህተት ተይዛ ለታሰረች የቴነሲ አያት ይህ ነበር። የእርሷ ጉዳይ የተለየ ክስተት ሳይሆን፣ ቁጥጥር ያልተደረገበት አርቴፊሻል ኢንተለጀንስ በቂ ቁጥጥር ከሌለው እንደ ህግ አስከባሪ አካላት ባሉ ወሳኝ ስርዓቶች ውስጥ ሲዋሃድ ምን እንደሚከሰት የሚገልጽ ጠንከር ያለ ማስጠንቀቂያ ነው። የሜዌይዝ ሻምፒዮናዎች የተሳለጠ እና ሥነ ምግባራዊ የአሠራር ሂደቶችን ባደረጉበት በንግዱ ዓለም፣ ይህ ታሪክ አንድን ዓለም አቀፋዊ እውነት ያጎላል፡ የምንመካበት ቴክኖሎጂ ትክክለኛ፣ ተጠያቂነት ያለው እና ግልጽ መሆን አለበት።

የተሳሳተ ማንነት ጉዳይ

ክስተቱ የጀመረው በሉዊዚያና ውስጥ በተደረገ የስርቆት ምርመራ ነው። ባለሥልጣናቱ ተጠርጣሪውን ከደበዘዙ የክትትል ቀረጻዎች ለመለየት እየታገሉ ወደ ፊት መለያ ቴክኖሎጂ መዞራቸው ተዘግቧል። ስልተ ቀመር የሰውን ገፅታዎች ለመቅረጽ እና ለማዛመድ የሰለጠነው መሪን ፈጠረ፡ በቪዲዮው ላይ ያለችው ሴት በቴኔሲ ከ400 ማይል ርቀት ላይ የምትኖር አያት እንደሆነች ጠቁሟል። ምንም እንኳን ጠንካራ አሊቢ ቢኖራትም እና በብዙዎች ከሚጋሩት ላዩን ባህሪ የዘለለ ተመሳሳይነት ባይኖረውም በቤተሰቧ ፊት ተይዛ ለቀናት ታስራለች። የዝግጅቱ ጉዳት እና ውርደት በአልጎሪዝም ጥቆማ እና በተጨባጭ እውነት መካከል ያለውን አስፈሪ ክፍተት ያሳያል፣ ይህም የሰው ህይወት የወደቀበት ክፍተት ነው።

በAI-Powered Policing ውስጥ ያሉ የስርዓታዊ ጉድለቶች

ይህ ጉዳይ አሁን ባለው የ AI አተገባበር ላይ በርካታ ወሳኝ ድክመቶችን ያበራል፣ በተለይም የፊት ለይቶ ማወቅ፡

• አድልኦ በስልጠና መረጃ፡ ብዙ ስልተ ቀመሮች በልዩ ልዩ ባልሆኑ የውሂብ ስብስቦች ላይ የሰለጠኑ ሲሆን ይህም ለሴቶች እና ለቀለም ሰዎች ከፍተኛ የስህተት መጠን እንዲፈጠር ያደርጋል።
• የማይሳሳት ቅዠት፡ ፖሊስ የ AI ውፅዓት ጉድለት ካለው አመራር፣ አጭር ዙር ትክክለኛ የምርመራ ስራ ሳይሆን እንደ ትክክለኛ ማረጋገጫ ሊቆጥረው ይችላል። የ
• ደንብ እጦት፡ የአካባቢ ህጎች መጣመር ማለት ይህ ቴክኖሎጂ መቼ እና እንዴት ጥቅም ላይ እንደሚውል ጥቂት መመዘኛዎች መኖራቸውን እና ትክክለኛነትን ለማጣራት ደግሞ ያነሱ ናቸው ማለት ነው።
• የተጠያቂነት ክፍተቶች፡ ስህተት በሚፈጠርበት ጊዜ ተጠያቂው ማን እንደሆነ ብዙ ጊዜ አይታወቅም—የሶፍትዌር ገንቢው፣ የፖሊስ መምሪያው ወይም ራሱ አልጎሪዝም።

ይህ አካሄድ ጠንካራ የአሠራር ሥርዓቶች እንዴት መሥራት እንዳለባቸው በቀጥታ የሚቃረን ነው። እንደ Mewayz ያሉ መድረኮች በአስተማማኝ እና ትክክለኛነት ላይ የተገነቡ ናቸው፣በመረጃ ላይ የተመሰረቱ ውሳኔዎች በተረጋገጡ መረጃዎች ላይ የተመሰረቱ ናቸው እንጂ ህይወትን እና ስራዎችን ሊያደናቅፉ የሚችሉ ግምታዊ ግምቶች አይደሉም።

የሥነምግባር ቴክኖሎጂ እና የሰው ቁጥጥር ጥሪ

መፍትሔው ቴክኖሎጂን መተው ሳይሆን ጥብቅ መከላከያዎችን በመጠቀም ተግባራዊ ማድረግ ነው። ለህግ አስከባሪ አካላት፣ ይህ ማለት የፊት ለይቶ ማወቂያ ውጤቶች እንደ የምርመራ አመራር ብቻ እንጂ ለእስር እንደ ብቸኛ ማስረጃ እንዲታዩ ማዘዝ ማለት ነው። የአድሎአዊነት እና የግዴታ ግልጽነት ሪፖርቶችን ከአቅራቢዎች የሶስተኛ ወገን ኦዲት ያስፈልገዋል። ከሁሉም በላይ፣ የሰው ልጅ የሂሳዊ አስተሳሰብ ሰንሰለት እና ትክክለኛ ሂደት ሁልጊዜ ከአውቶሜትድ ውፅዓት ቅድሚያ እንዲሰጠው ይፈልጋል።

"ይህ ከብልሽት በላይ ነው፤ የሂደቱ መሰረታዊ ውድቀት ነው። በፍትህም ሆነ በቢዝነስ ውስጥ በማንኛውም ስርአት ላይ እምነት በትክክለኛ እና ተጠያቂነት ላይ የተመሰረተ ነው፣ ይህም በቀላሉ ላልተረጋገጠ ስልተ ቀመር ሊሰጥ አይችልም።" - Mewayz Ethics Advisory Panel

በእውነቱ ሊተማመኑበት የሚችሏቸው የግንባታ ስርዓቶች

የቴነሲ አያት መከራ ለእያንዳንዱ ዘርፍ፣ ንግድን ጨምሮ ማስጠንቀቂያ ነው። ቴክኖሎጂ ሰዎችን ማበረታታት እና መጠበቅ አለበት የሚለውን መርህ ያጠናክራል እንጂ አዲስ የአደጋ መንስኤዎችን መፍጠር የለበትም። በኮርፖሬት አለም፣ ስራ አስፈፃሚዎች ፋይናንስን፣ የደንበኛ ውሂብን እና የስራ ሂደትን ለማስተዳደር በሶፍትዌር ላይ ይተማመናሉ። በሞዱል ቁጥጥር፣ ግልጽ ሂደቶች እና ሰውን ማዕከል ባደረገ አቀራረብ የተነደፈ እንደ Mewayz ያለ መድረክ መምረጥ የንግድ ስራዎ ቀልጣፋ እና ደህንነቱ የተጠበቀ መሆኑን ያረጋግጣል። የቴክኖሎጂ ግብ ስህተትን መቀነስ እና ግልጽነትን መፍጠር እንጂ አስከፊ እና ህይወትን የሚቀይሩ ስህተቶችን ማስተዋወቅ እንዳልሆነ ማሳሰቢያ ነው. ወደ ፊት ስንሄድ፣ ሥርዓትን በቅንነት መገንባት ባህሪ ብቻ አይደለም - ፍፁም አስፈላጊ ነው።

ብዙ ጊዜ የሚጠየቁ ጥያቄዎች

የቴነሲ ሴት አያቶች መታሰር የኤአይአይን የተሳሳተ እይታ አጋልጧል

ወንጀለኛ እንደሆንክ የሚናገሩ የፖሊስ መኮንኖች በርህ ሲንኳኳ እና እንደማይቻል የምታውቀውን ማስረጃ በማቅረብ አስብ። የፊት ለይቶ ማወቂያ አልጎሪዝም ባለው የተሳሳተ አስተያየት ላይ በመመስረት በስህተት ተይዛ ላልሰራችው ወንጀል በስህተት ተይዛ ለታሰረች የቴነሲ አያት ይህ ነበር። የእርሷ ጉዳይ የተለየ ክስተት ሳይሆን፣ ቁጥጥር ያልተደረገበት አርቴፊሻል ኢንተለጀንስ በቂ ቁጥጥር ከሌለው እንደ ህግ አስከባሪ አካላት ባሉ ወሳኝ ስርዓቶች ውስጥ ሲዋሃድ ምን እንደሚከሰት የሚገልጽ ጠንከር ያለ ማስጠንቀቂያ ነው። የሜዌይዝ ሻምፒዮናዎች የተሳለጠ እና ሥነ ምግባራዊ የአሠራር ሂደቶችን ባደረጉበት በንግዱ ዓለም፣ ይህ ታሪክ አንድን ዓለም አቀፋዊ እውነት ያጎላል፡ የምንመካበት ቴክኖሎጂ ትክክለኛ፣ ተጠያቂነት ያለው እና ግልጽ መሆን አለበት።

የተሳሳተ ማንነት ጉዳይ

ክስተቱ የጀመረው በሉዊዚያና ውስጥ በተደረገ የስርቆት ምርመራ ነው። ባለሥልጣናቱ ተጠርጣሪውን ከደበዘዙ የክትትል ቀረጻዎች ለመለየት እየታገሉ ወደ ፊት መለያ ቴክኖሎጂ መዞራቸው ተዘግቧል። ስልተ ቀመር የሰውን ገፅታዎች ለመቅረጽ እና ለማዛመድ የሰለጠነው መሪን ፈጠረ፡ በቪዲዮው ላይ ያለችው ሴት በቴኔሲ ከ400 ማይል ርቀት ላይ የምትኖር አያት እንደሆነች ጠቁሟል። ምንም እንኳን ጠንካራ አሊቢ ቢኖራትም እና በብዙዎች ከሚጋሩት ላዩን ባህሪ የዘለለ ተመሳሳይነት ባይኖረውም በቤተሰቧ ፊት ተይዛ ለቀናት ታስራለች። የዝግጅቱ ጉዳት እና ውርደት በአልጎሪዝም ጥቆማ እና በተጨባጭ እውነት መካከል ያለውን አስፈሪ ክፍተት ያሳያል፣ ይህም የሰው ህይወት የወደቀበት ክፍተት ነው።

በAI-Powered Policing ውስጥ ያሉ የስርዓታዊ ጉድለቶች

ይህ ጉዳይ አሁን ባለው የ AI አተገባበር ላይ በርካታ ወሳኝ ድክመቶችን ያበራል፣ በተለይም የፊት ለይቶ ማወቅ፡

የሥነምግባር ቴክኖሎጂ እና የሰው ቁጥጥር ጥሪ

መፍትሔው ቴክኖሎጂን መተው ሳይሆን ጥብቅ መከላከያዎችን በመጠቀም ተግባራዊ ማድረግ ነው። ለህግ አስከባሪ አካላት፣ ይህ ማለት የፊት ለይቶ ማወቂያ ውጤቶች እንደ የምርመራ አመራር ብቻ እንጂ ለእስር እንደ ብቸኛ ማስረጃ እንዲታዩ ማዘዝ ማለት ነው። የአድሎአዊነት እና የግዴታ ግልጽነት ሪፖርቶችን ከአቅራቢዎች የሶስተኛ ወገን ኦዲት ያስፈልገዋል። ከሁሉም በላይ፣ የሰው ልጅ የሂሳዊ አስተሳሰብ ሰንሰለት እና ትክክለኛ ሂደት ሁልጊዜ ከአውቶሜትድ ውፅዓት ቅድሚያ እንዲሰጠው ይፈልጋል።

በእውነቱ ሊተማመኑበት የሚችሉት የግንባታ ስርዓቶች

የቴነሲ አያት መከራ ለእያንዳንዱ ዘርፍ፣ ንግድን ጨምሮ ማስጠንቀቂያ ነው። ቴክኖሎጂ ሰዎችን ማበረታታት እና መጠበቅ አለበት የሚለውን መርህ ያጠናክራል እንጂ አዲስ የአደጋ መንስኤዎችን መፍጠር የለበትም። በኮርፖሬት አለም፣ ስራ አስፈፃሚዎች ፋይናንስን፣ የደንበኛ ውሂብን እና የስራ ሂደትን ለማስተዳደር በሶፍትዌር ላይ ይተማመናሉ። በሞዱል ቁጥጥር፣ ግልጽ ሂደቶች እና ሰውን ማዕከል ባደረገ አቀራረብ የተነደፈ እንደ Mewayz ያለ መድረክ መምረጥ የንግድ ስራዎ ቀልጣፋ እና ደህንነቱ የተጠበቀ መሆኑን ያረጋግጣል። የቴክኖሎጂ ግብ ስህተትን መቀነስ እና ግልጽነትን መፍጠር እንጂ አስከፊ እና ህይወትን የሚቀይሩ ስህተቶችን ማስተዋወቅ እንዳልሆነ ማሳሰቢያ ነው. ወደ ፊት ስንሄድ፣ ሥርዓትን በቅንነት መገንባት ባህሪ ብቻ አይደለም - ፍፁም አስፈላጊ ነው።