Apple desativa temporariamente a funcionalidade de resumos por IA devido a preocupações de alucinação
A Apple anunciou a desativação temporária de uma funcionalidade que usava inteligência artificial para produzir resumos de textos. A medida foi tomada após relatos de que o sistema de IA estava gerando “alucinações”, isto é, fabricando informações ou distorcendo os fatos em seus resumos. Esse fenômeno, conhecido como alucinação na IA, ocorre quando o modelo cria resultados imprevisíveis ou incorretos que não são sustentados pelos dados reais.
Por exemplo, um resumo gerado por IA poderia afirmar que um artigo científico publicado em um jornal renomado teve um resultado diferente do real ou até mesmo mencionar dados de estudos que nunca foram realizados. Este problema tem levantado preocupações sobre a confiabilidade e precisão dos sistemas de IA na criação de conteúdos objetivos e factuais.
Diante disso, a Apple optou por pausar a utilização desta tecnologia até que consiga resolver as questões que comprometem a integridade das informações apresentadas. Especialistas acreditam que melhorias nos modelos de aprendizado e um rigoroso controle de qualidade nos dados usados pela IA podem minimizar essas ocorrências. Essa decisão reflete a seriedade com que as grandes empresas de tecnologia estão tratando a ética e a precisão em produtos de IA.
