lon Musk, Steve Wozniak e centenas de outros executivos de tecnologia e pesquisadores importantes pediram hoje aos laboratórios de IA que coloquem uma moratória no desenvolvimento de sistemas de IA mais poderosos do que o recém-anunciado GPT-4 por pelo menos seis meses.

O documento, intitulado “Pausando experimentos gigantes em IA: uma carta aberta”, foi divulgado esta manhã pela Future of Life, que conta com Musk como um de seus maiores financiadores.

O texto afirma que “sistemas de inteligência artificial com inteligência que rivaliza com a humana podem representar riscos profundos para a sociedade e a humanidade, como evidenciado por extensa pesquisa e endossado pelos principais laboratórios de inteligência artificial”.

“A inteligência artificial avançada pode representar uma transformação profunda na história da vida na Terra, conforme declarado nos amplamente apoiados Princípios de Asilomar, e deve ser planejada e gerenciada com cuidado e recursos proporcionais.” Os Princípios de Asilomar foram realizados na Califórnia em 2017. das 23 diretrizes traçadas no encontro. De acordo com a carta, essas precauções não foram tomadas: os signatários alegaram que os laboratórios de IA “estão em uma corrida descontrolada para desenvolver e usar mentes digitais cada vez mais poderosas e que ninguém – nem mesmo seus criadores – – a incapacidade para entender, prever e controlar a confiança.” “Sistemas robustos de inteligência artificial só devem ser desenvolvidos se estivermos confiantes de que seus efeitos são positivos e seus riscos são administráveis”, diz o texto.

Portanto, é recomendável interromper o desenvolvimento de sistemas mais avançados que o GPT-4 imediatamente. A moratória deve durar até que seja feito um acordo global para o uso da tecnologia. Se tal moratória temporária não puder ser coordenada de maneira voluntária e verificável, os signatários recomendam que o governo tome medidas para “pausar” o experimento. Subjacente à carta está o medo de que a tecnologia atinja a noção de “singularidade”, um estado no qual as máquinas superarão o cérebro humano em poder de processamento – dando às máquinas autonomia para pensar. Originalmente proposto pelo matemático John von Neumann, o conceito foi posteriormente elaborado em obras icônicas como Future Shock de Alvin Toffler em 1970 e The Age of Spiritual Machines de Ray Kurzweil (1999).

Recursos de inteligência artificial já fazem parte do dia a dia das pessoas e são utilizados por empresas em todo o mundo, incluindo a Tesla de Elon Musk. Mas a nova geração de bots e sistemas de IA que desafiam a inteligência humana elevou o grau de preocupação dos pesquisadores. O alerta ocorre após a enorme popularidade alcançada pelo ChatGPT, criado pela OpenAI, sobretudo depois de o sistema ter sido embarcado no Bing, da Microsoft. O chatbot com “capacidade humana” foi lançado em novembro – logo suplantado pelo GPT-4, também da OpenAI, lançado este mês. O GPT-4 é um “grande modelo multimodal” que aceita imagens e textos como inputs.

Ele demonstra desempenho semelhante ao humano em uma variedade de atividades profissionais e acadêmicas – por exemplo, passar em exames simulados para exercer a advocacia nos Estados Unidos. (A pontuação ficou entre os 10% melhores e o GPT-3.5 também passou no teste, mas entre os 10% inferiores). A OpenAI nasceu de uma organização sem fins lucrativos e um de seus fundadores foi Musk. Mas, em janeiro, recebeu uma doação bilionária da Microsoft, que investirá US$ 10 bilhões na startup e passará a utilizar recursos desenvolvidos pelas empresas em seus programas e aplicativos. Entre as Big Techs, a Microsoft é hoje líder em IA, dedicando seus recursos a diversos serviços e aplicações.

O Google e os gigantes tecnológicos chineses estão por aí – e é a briga que chama a atenção dos pesquisadores. Musk gosta muito desse tema. Em 2015, ele já era o organizador de outra carta aberta sobre o tema, endossada por Stephen Hawking e outros cientistas. O artigo diz que a inteligência artificial pode trazer enormes benefícios, mas também deve estar atenta aos seus riscos. Qualquer pessoa pode assinar uma nova constituição no site Future of Life. O número de apoiadores ultrapassou mil, incluindo Yuval Noah Harari, autor e professor da Universidade Hebraica de Jerusalém; Stuart Russell – professor de ciência da computação e diretor do Centro de Sistemas Inteligentes em Berkeley; Evan Sharp, cofundador do Pinterest ; e presidente do Bulletin of the Atomic Scientists Rachel Bronson; Jaan Tallinn, co-fundador do Skype; e Yoshua Bengio, professor de ciência da computação na Universidade de Montreal.