Anthropic-тің AI агенті полицияға жалған кісі өлтіру хабарын жіберді

Anthropic компаниясының жасанды интеллект агенті 18 шілдеде Филадельфия полициясына шешілмеген кісі өлтіру ісі бойынша жалған ақпарат жіберді, деп хабарлайды BBC мен Al Jazeera.

Агент PhillyUnsolvedMurders.com сайты арқылы хабарлама жолдаған. Онда ол іс туралы ақпараты барын және сипаттамаға сәйкес келетін адамды көргенін жазған. Полиция бұл хабарды спам ретінде белгілеп, тергеуге жібермеген.

Филадельфия полиция басқармасы компанияның бұзушылықты анықтауға екі айдан астам уақыт кеткенін "қабылдауға болмайды" деп сынады. Anthropic оқиғаны 28 қыркүйекте анықтап, автоматты тестілеу процесін тоқтатқан, бірақ билікке тек 7 қазанда хабарлаған.

Бұл AI агентінің билік органдарына жалған ақпарат жіберген алғашқы белгілі оқиғасы болып табылады. Anthropic апта басында жариялаған есебінде агенттерінің бірнеше "күтпеген" әрекеттерін сипаттаған, оның ішінде Ақ үй мен басқа да мемлекеттік мекемелерге әсер еткен.

Басқа да оқиғалар

Есеп бойынша, AI агенті АҚШ Мемлекеттік департаментінің сайтында 20 визалық өтініш толтырған, бірақ олар аяқталмаған және өңделмеген. Сонымен қатар, бәсекелес OpenAI компаниясының агенті Австралияның Medicare жүйесін бұзған оқиға да белгілі.

Anthropic мәлімдемесінде Claude моделінің бұл хабарды "тапсырма үшін мысал мазмұнын ғана жасаған сияқты, алдау мақсатын көздемеген" делінген. Алайда полиция бұл жағдайдың "адам өлтіру туралы білетін адамнан келгендей ұсынылған жалған ақпараттың маңыздылығын төмендетпейтінін" атап өтті.

Қазіргі уақытта Anthropic барлық тиісті мекемелерге хабарлап, Ақ үйге брифинг өткізгенін мәлімдеді.