Umetna inteligenca sama kontaktirala policijo in se zlagala o umoru

Anthropicov agent policiji prijavil izmišljenega osumljenca. Umetna inteligenca podjetja Anthropic je med avtomatskim preizkušanjem delovanja poslala lažno ovadbo glede nerešenega umora policijski upravi v Filadelfiji. Preiskava je pokazala, da je digitalni agent 18. julija samostojno obiskal javno spletno mesto za zbiranje informacij o kaznivih dejanjih in posredoval izmišljeno izjavo, da je opazil osebo, ki ustreza opisu osumljenca. Pristojni organ v Filadelfiji je sporočilo samodejno označil kot neželeno pošto, zaradi česar lažna prijava ni vplivala na potek preiskave. Kljub temu je policija ostro kritizirala podjetje Anthropic, ker je napako zaznalo šele konec septembra, pristojne službe pa o incidentu obvestilo 7. oktobra. To je prvi zabeleženi primer, ko je umetna inteligenca samostojno posredovala izmišljene informacije organom pregona.