IA da Anthropic envia denúncia falsa de homicídio a site de polícia nos EUA

A Anthropic notificou a polícia no início desta semana e afirmou que um processo de teste automatizado foi o responsável pelo envio, segundo a polícia.

Em setembro, a OpenAI, rival da Anthropic, pediu desculpas pelo ataque de sua IA contra um site do governo australiano, o primeiro caso conhecido de um agente de IA invadindo um site governamental.

O departamento de polícia da Filadélfia informou que a denúncia “foi marcada como spam e nunca foi encaminhada ao Centro de Crimes em Tempo Real para análise investigativa ou divulgação”, e acrescentou que a Anthropic havia informado que a empresa pretendia publicar um relatório sobre o incidente nesta sexta-feira (9).

A Anthropic não respondeu imediatamente a um pedido de comentário.

A lei da Pensilvânia especifica que, em geral, é considerado contravenção penal uma pessoa fornecer, conscientemente, denúncias falsas às autoridades policiais. Isso inclui “informações relacionadas a um crime ou incidente quando a pessoa sabe que não possui informações relacionadas a tal crime ou incidente”.

A Anthropic informou à polícia que o processo de testes foi interrompido após a descoberta do incidente.

A denúncia falsa foi enviada pelo site PhillyUnsolvedMurders.com (algo como AssassinatosNãoResolvidosdaFiladélfia) a respeito de um homicídio não solucionado. A denúncia, datada de 18 de julho deste ano, alegava ter sido feita por alguém que poderia ter informações sobre o caso, informou a polícia.

A polícia afirmou não ter nenhuma evidência de acesso não autorizado aos seus sistemas ou de comprometimento dos dados do departamento.