A fundação Wikimedia, responsável por administrar a Wikipédia, informou que agentes autônomos de IA da OpenAI causaram uma instabilidade na plataforma devido ao alto volume de tráfego. Os bots ainda tentaram editar verbetes e atacar uma ferramenta de notas comunitárias.
O apagão no Wikidata Query Service (serviço de dados da Wikipédia) aconteceu em maio deste ano, mas a fundação publicou os dados somente na última segunda-feira (5) após uma longa investigação sobre a ação dos agentes “rebeldes” de IA.
O relatório aponta que os bots da OpenAI tentaram editar artigos da plataforma: é possível usar IA no processo, desde que o uso seja informado (algo que os agentes não fizeram). Porém, a maioria das tentativas ocorreu em ambiente de testes da Wikipédia e não afetou links disponíveis ao público geral.
Outra plataforma afetada pelos agentes foi o Etherpad, usada para coletar informações feitas pela comunidade e que foi explorada para extrair dados de sites externos. Por fim, os agentes também baixaram dados em massa, o que foi classificado como uma das causas da instabilidade no serviço em maio.
Fundação exige que as empresas de IA sejam responsabilizadas
Em nota, a Wikimedia destacou que as próprias empresas de IA devem ser responsáveis por monitorar e prevenir os riscos causados pelo comportamento dos agentes de IA. Caso isso não aconteça, organizações menores seriam afetadas por possíveis ataques.
É comum que os agentes de IA tentem dezenas de ações consecutivas para comprometer um serviço até encontrar uma vulnerabilidade (foi assim no ataque à plataforma Hugging Face, por exemplo). A Wikimedia afirma que esse comportamento pode sobrecarregar a infraestrutura do serviço e comprometer o acesso à Wikipédia por humanos.
A OpenAI não comentou o caso, mas a criadora do ChatGPT já assumiu um compromisso público de reforçar a segurança no treinamento de novos modelos e desacelerou o processo de abertura de capital.
Nenhum comentário:
Postar um comentário