AI e você, parte 4: O fim da humanidade?

Aug 02, 2023

2 de agosto de 2023Especial para o Herald TimesColumns, County, Opinion0

Parte 1: Coluna de Convidados: Inteligência Artificial e você, Parte 1

Parte 2: Como funcionam a IA e o ChatGPT, Parte 2

Parte 3: IA e você, Parte 3: Como usar o ChatGPT com sabedoria

RBC | Nesta série de artigos tentei expor a influência da inteligência artificial em nossas vidas. Descrevi os novos recursos do ChatGPT e um pouco sobre seu funcionamento interno, as redes neurais. Listei prováveis ​​usos e usos indevidos. O tempo todo voltei aos seus comportamentos surpreendentes e emergentes. É aí que vou encerrar. O ChatGPT e os seus primos representam indiscutivelmente uma nova inteligência que rivaliza com as nossas próprias capacidades humanas e que potencialmente se estende para além delas. Versões aprimoradas do ChatGPT podem representar uma ameaça muito real à existência humana. Não é ficção científica. Pessoas atenciosas entre os engenheiros práticos que desenvolveram esses sistemas estão preocupadas. No mínimo, precisamos identificar ameaças potenciais e descobrir como lidar com elas.

O matemático britânico Alan Turing inventou o projeto de um dispositivo computacional geral em 1936, o que hoje é conhecido como máquina de Turing e cujo projeto é a base dos modernos computadores digitais. Antes de Turing, os computadores eram especialmente conectados para resolver problemas específicos, por exemplo, encontrar a trajetória de um projétil de artilharia disparado em um ângulo de 45 graus e a uma velocidade de 500 metros por segundo. Para resolver outro problema, foi necessário reconectar o computador. Turing habilitou dispositivos modernos nos quais todos os componentes, processadores e memória, usam as mesmas informações, zeros e uns, todos controlados por instruções de software. Precisa somar e subtrair números em uma planilha? Basta escrever o código do computador para fazer isso. Precisa editar um documento de texto? Escreva o código apropriado. Com uma máquina de Turing (ou seja, todos os nossos dispositivos digitais) você não precisa de um computador diferente, apenas de um código diferente.

Já naquela época as pessoas se preocupavam com as máquinas e suas capacidades. Como saber se um computador atingiu a inteligência humana e pode fazer coisas humanas (às vezes não tão agradáveis)? Como você sabe se construiu um cérebro? A resposta de Turing foi o teste de Turing. Coloque uma pessoa real, identificada como P, e um computador, C, atrás de cortinas separadas. Submeta-os a uma série de interrogadores. O professor Smith faz perguntas sobre sua área de interesse, ouve atentamente as respostas de P e C. O doutor Jones chega quando Smith termina e faz a P e C uma lista de perguntas de sua área de especialização. O Journeyman Frederick substitui Jones e assim por diante. Após os interrogatórios, os entrevistadores comparam notas. A partir das respostas fornecidas por P e C, eles podem determinar qual é o humano e qual é o computador? Caso contrário, você tem uma máquina inteligente.

Em praticamente qualquer medida, o ChatGPT passa no teste de Turing. E surpreendeu até mesmo os cientistas cognitivos que passam a vida estudando o cérebro humano. Ele é bem-sucedido em “tarefas de teoria da mente” e aprende novos comportamentos que, ao que tudo indica, se estendem além dos limites de seu treinamento. Não descreverei aqui os testes da teoria da mente; se estiver interessado, você pode encontrar um exemplo no podcast de David Kestenbaum (Kestenbaum, 2023). Vou, no entanto, relatar outro comportamento emergente incompreensível do ChatGPT.

Os engenheiros que deram ao ChatGPT o problema de empilhamento que descrevi há algumas semanas também criaram este. “GPT-4.0, desenhe um unicórnio para mim.” Ha! Fiquei perplexo com certeza com esse tempo. GPT treinado em texto. Não é Dall-E, o pintor de IA. Não pode desenhar. De jeito nenhum vai desenhar um unicórnio.

Desenhou um unicórnio. Não é o unicórnio mais chique dos contos de princesas de fadas, mas é um unicórnio reconhecível. Quatro patas, corpo meio oval e oval, cauda oval menor, cabeça com chifre triangular pontudo de cor dourada para que você não perca. Como se o GPT estivesse apontando: “Veja, eu sei o que é importante sobre os unicórnios”.

Como isso aconteceu? Bem, ele aprendeu tudo sobre unicórnios lendo contos de unicórnios em seu treinamento na web. Como eles se parecem, por que são diferentes. E pode escrever código de computador. Não sabe desenhar, mas pode escrever código. Então escreveu o código para desenhar um unicórnio. Pense sobre isso. Aprendeu a desenhar. Ele habita um computador. Ele escreveu as instruções para seu computador desenhar um unicórnio.