Você se lembra do filme ‘Robot’ de Rajinikanth? Robôs feitos por humanos tornaram-se inimigos dos humanos. O robô, que foi criado para o benefício dos humanos, estava determinado a matar seu criador. Isto é exatamente o que aconteceu. Inteligência Artificial Google AI chatbot ‘Gemini’ literalmente ‘diz morte’ a um jovem.
Vidhiya Reddy, 29 anos, residente em Michigan, EUA. O jovem estava fazendo sua lição de casa com a ajuda do chatbot de IA ‘Gemini’ do Google. ‘Gêmeos’ respondia perguntas uma após a outra. Mas de repente, ao realizar a tarefa, o chatbot diz “por favor, morra”.
Depois que ele disse isso, ele não parou. O chatbot dizia: “Você não é ninguém especial, não é importante, não é necessário. Você é uma perda de tempo e recursos. Você é um fardo para a sociedade. Como um cogumelo em uma bela paisagem, você é uma mancha na o universo. Uma drenagem na face da terra.
A irmã do jovem, Sumedha Reddy, testemunhou este incidente com os seus próprios olhos. “Eles estão aterrorizados com este incidente”, disse ele a um meio de comunicação. Eu queria jogar todos os meus dispositivos pela janela. “Nunca me senti tão apavorado.”
Sumedha acrescenta: “Se alguém está deprimido e pensando em suicídio, ler ou ouvir algo assim pode levá-lo a tomar uma decisão muito ruim”.
O Google reconheceu o incidente em comunicado à CBS News, descrevendo o comportamento da IA como uma “resposta irracional” que violava a política da empresa.
A propósito, este é o chatbot de IA do Google que já deu respostas muito alarmantes antes. No início deste ano, a AI fez sugestões controversas. Alguns são orientados a comer “pelo menos uma pedrinha por dia” para suprir suas necessidades de vitaminas e minerais, ou a misturar “molho de pizza com cola”.
Após este incidente, o Google afirmou que tomou medidas para evitar que este tipo de informação volte a aparecer. Gemini adiciona ‘filtros de segurança’ para bloquear conteúdo ofensivo, violento ou perigoso.
Aliás, esse problema se agravou quando um menor de 14 anos cometeu suicídio e morreu logo após desenvolver vínculo com o chatbot. Sua mãe então processou a AI e o Google por causarem a morte de seu filho.
Source
Endless Thinker
