Um grupo de especialistas e líderes da indústria tecnológica, que incluem Elon Musk e o co-fundador da Apple, Steve Wozniak, partilharam uma carta aberta a apelar a uma pausa de seis meses no desenvolvimento de experiências com Inteligência Artificial (IA) que queiram copiar e melhorar o que o GPT- 4 já faz.

Trata-se do modelo mais recente do laboratório de inteligência artificial OpenAI utilizado pelo programa ChatGPT para produzir textos, programar e analisar imagens como um ser humano. Elon Musk fez parte do grupo de fundadores em 2015.

“​[Estes] poderosos sistemas de inteligência artificial só devem ser desenvolvidos quando estivermos confiantes de que os seus efeitos serão positivos e de que os seus riscos serão controláveis”, lê-se na carta aberta, publicada na quarta-feira através do Future of Life Institute, uma organização sem fins lucrativos que trabalha para reduzir os riscos da utilização de novos sistemas de IA.

“Apelamos a todos os laboratórios de inteligência artificial para que parem imediatamente, durante pelo menos seis meses, a formação de sistemas de inteligência artificial mais potentes do que o GPT-4. Esta pausa deve ser pública e verificável, e incluir todos os actores-chave. Se tal pausa não puder ser decretada rapidamente, os governos deveriam intervir e instituir uma moratória”, pedem os co-signatários.

Os riscos identificados com tecnologia como o GPT-4 incluem a produção em massa de notícias falsas e o aumento do desemprego. “Devemos deixar que as máquinas inundem os nossos canais de informação com propaganda e mentira? Devemos automatizar todos os trabalhos, incluindo os que deixam as pessoas satisfeitas?”, são algumas das questões levantadas pela carta.

O comunicado surge dias depois de o Serviço Europeu de Polícia (Europol) ter alertado para a potencial má utilização de grandes modelos linguísticos, como o ChatGPT, em esquemas de desinformação e criminalidade online.

Estes modelos são treinados com enormes bases de dados para encontrar padrões em sequências e perceber qual é a melhor palavra para continuar uma ideia. A arquitectura por detrás da tecnologia foi partilhada pela primeira vez por investigadores da Alphabet (a empresa-mãe da Google) num artigo académico de 2017.

Nos últimos meses, várias empresas têm desenvolvido ferramentas semelhantes ao ChatGPT. A app de mensagens Snapchat foi alvo de críticas depois de lançar um chatbot para jovens que ajudava os mais novos a mentir aos pais e dava conselhos sobre como disfarçar o cheiro a álcool e drogas.

“A sociedade fez uma pausa sobre outras tecnologias com efeitos potencialmente catastróficos na sociedade. Podemos fazer isto aqui”, conclui a mensagem do Future of Life, dando como exemplo a eugenia, a prática destinada a melhorar a espécie humana através da selecção ou eliminação de certas características hereditárias que serviu de base às políticas raciais do século XX.

Às 12h30 desta sexta-feira, a carta já tinha sido assinada por mais de 1859 pessoas. Além de Musk e Wozniak, os co-signatários incluem o cientista de computação britânico Stuart Russel e o canadiano Yoshua Benfio, conhecido pelo seu trabalho com redes neurais artificiais (algoritmos que simulam o cérebro humano). Vários especialistas da DeepMind (a empresa de inteligência artificial da Google) também assinaram o documento.

Até agora, nenhum dos executivos da OpenAI assinou a carta.

O Future of Life Institute é financiado em grande parte pela Musk Foundation, pela Silicon Valley Community Foundation e pelo Founders Pledge, um grupo de altruísmo efectivo com sede em Londres. Este é movimento filosófico que defende a distribuição de donativos e apoios com base em provas sobre onde terão mais resultado.

Elon Musk saiu do conselho de direcção da OpenAI em 2018. Durante o tempo em que apoiou o laboratório, forneceu cerca de 100 milhões de dólares para o desenvolvimento de vários projectos. Nos últimos meses, tem-se queixado do facto de a OpenAI — inicialmente uma organização sem fins lucrativos — se ter transformado numa empresa com lucro.