Como toda tecnologia disruptiva, a IA vem gerando grande controvérsia. Isso não é novidade na história da ciência: há pouco mais de um século, a vilã era a energia elétrica. Há menos de 50 anos, os inimigos eram os computadores pessoais. Atualmente, quase todos temos um computador no bolso – alimentado por energia elétrica e potencializado por IA.

A rápida disseminação dessa tecnologia tem despertado inúmeros debates, entre eles o uso de ferramentas de IA nas escolas, tanto por alunos quanto por professores. A comodidade e a aparente confiabilidade – os textos e imagens são, em geral, bem construídos e convincentes – escondem ameaças como violação da privacidade, quebra de segredos industriais e comerciais, geração e disseminação de informações falsas e difamatórias e o potencial dano ao desenvolvimento cognitivo das crianças e adolescentes.

Há alguns meses, fiz uma busca pelo meu nome na internet. O resultado gerado pela IA – nesse caso não tão inteligente – dizia que eu era consultor de uma empresa para a qual nunca trabalhei. Em caso mais grave, o músico canadense Ashley MacIsaac teve um concerto cancelado por ser taxado como abusador sexual em um resumo de IA, que o confundiu com um homônimo. 

Atualmente, o primeiro resultado que aparece nas pesquisas feitas na ferramenta de buscas mais popular do mundo é gerado por IA e, muitas vezes, traz informações falsas. Internautas desavisados frequentemente tomam por verdade sem sequer verificarem de onde veio a informação, simplesmente por estar no topo dos resultados.

Problemas assim reforçam a importância de regulamentar a IA, mas principalmente de educar sobre os riscos e cuidados necessários. O projeto de lei que tramita hoje no Congresso tem problemas, até por ter sido concebido antes do boom da IA generativa, mas é um começo. A responsabilização dos desenvolvedores pelos danos causados é importante, como bem ilustra o caso de MacIsaac, mas ainda mais importante é que as escolas levem o assunto para os estudantes, pais e professores. É imprescindível educar sobre as potencialidades da ferramenta e sobre as consequências de seu mau uso. Isso passa pela formação e atualização dos professores, que precisam lidar com essa realidade e entender que não adianta querer combatê-la, e do envolvimento dos pais e mães.

Da mesma forma, é essencial que as empresas tratem internamente do assunto, alertando seus colaboradores para os riscos decorrentes do mau uso dessas ferramentas. Conforme o caso, é responsável que a organização formalize políticas e normas para o uso (e, dependendo da área de atuação, o desenvolvimento) de ferramentas de IA. É importante ter em mente aspectos relacionados à segurança da informação, direitos autorais e, não menos importante, as alucinações que geram respostas convincentes, mas totalmente equivocadas.