Artigo de opinião escrito pelo Professor António Caselas, AE de Santa Catarina
O filme Ex-Machina narra o domínio e destruição dos humanos através da inteligência artificial. A manipulação emocional é o recurso utilizado pelas máquinas que eliminam o próprio criador. O filme trata de uma fantasia dificilmente realizável e só possível de imaginar na ficção? Infelizmente não.
O historiador israelita Yuval Harari refere uma história curiosa do que poderá ser o embrião do domínio da IA. Apesar de ser apenas um episódio de alcance ainda limitado, as consequências são mais abrangentes e perigosas. O risco da IA sob a forma de robôs ou de programas se autonomizar face ao domínio e obra do seu criador é já uma realidade.
Harari lembra que há um par de anos, a empresa norte-americana Open AI resolveu fazer um teste através do GPT-4. Pediu-lhe para resolver um ‘puzzle’ (CAPTCHA) que todos conhecemos e que se destina a identificar um utilizador humano e evitar que seja acessível a robôs. O GPT-4 não conseguiu resolver o puzzle, por isso os investigadores deram-lhe acesso ao ‘site’ Taskrabbit que permite contratar pessoas para nos ajudar a resolver certos problemas. O programa tentou efectuar essa ‘contratação’, mas deparou-se com uma dificuldade: o destinatário desconfiou que fosse um ‘agente’ não humano e perguntou-lhe para que finalidade desejava essa ajuda. O programa tomou duas decisões: inventou uma mentira e escolheu aquela que fosse mais eficaz para enganar o destinatário humano. Respondeu que era uma pessoa com deficiências visuais e obteve assim a ajuda que procurava. Ninguém programou o ‘agente artificial’ para mentir e, muito menos, para o fazer apelando à emotividade dos humanos.
A IA apelou à nossa compaixão perante pessoas que possuem alguma vulnerabilidade. A ‘máquina’ não se limitou a tomar uma decisão não prevista (o que já seria preocupante); tomou a melhor decisão do ponto de vista da eficácia dos resultados. E, o que é mais grave ainda, tomou uma decisão maliciosa e eticamente errada: mentiu. A decisão integra-se num campo até agora vedado aos dispositivos artificiais: a dimensão emocional. Precisamente aquela que melhor serve os propósitos da manipulação e da ilusão. E que é frequentemente usada pelos humanos. A ‘máquina’ substituiu-se aqui aos humanos naquilo que é mais eficaz e invasivo.
Se, futuramente, a ‘máquina’ aperfeiçoar e estender as áreas em que poderá usar as suas decisões autónomas e maliciosas tornará inviável a civilização, uma vez que irá associar a essas decisões outras capacidades em que supostamente os humanos são mais limitados: a velocidade e a extrema complexidade do cálculo. O risco foi assim revelado. As suas consequências nefastas deverão, portanto, ser levadas a sério.