Sam Altman despedido e depois reintegrado como diretor executivo da OpenAI. Por trás do psicodrama entre os criadores do ChatGPT está uma preocupação com a IA que vai contra os interesses humanos, expressa pelo cofundador Ilya Sutskever.

5 dias, e o golpe de força terminou. Mas até onde chegará a onda de choque? Demitido na sexta-feira, 17 de novembro de 2023, pelo conselho de administração da OpenAI, Sam Altman foi reintegrado como CEO da empresa pioneira em inteligência artificial generativa.

Com o ChatGPT, lançado em novembro de 2022, a empresa abriu o acesso a um sistema de IA capaz de gerar texto ou imagens de uma forma revolucionariamente fluida. O sistema conquistou mais de 100 milhões de utilizadores activos por semana e colocou a OpenAI no centro dos debates tecnológicos.

A Microsoft e a OpenAI são parceiros sólidos…

O psicodrama dos últimos 5 dias colocou a Microsoft numa situação paradoxal. Em primeiro lugar, porque a empresa co-fundada em 1975 por Bill Gates e atualmente dirigida por Satya Nadella foi confrontada com um facto consumado: a expulsão de Altman pelo conselho de administração da OpenAI ocorreu sem o seu conhecimento. A Microsoft fez da OpenAI o seu parceiro privilegiado no domínio da IA, financiando-a em vários milhares de milhões de dólares.

Mas a Microsoft deu todo o seu peso ao que aconteceu de seguida. Em primeiro lugar, anunciando que ia manter Altman e Greg Brockman, o presidente da empresa, sob a sua alçada. Na terça-feira, anunciou que os iria contratar para a Microsoft para criar um novo laboratório de IA.

A eles poderia ter-se juntado um grande número de funcionários da OpenAI: numa carta aberta a exigir o regresso de Altman e Brockman, 700 dos 770 funcionários ameaçaram bater com a porta, correndo o risco de transformar a empresa-mãe da ChatGPT numa concha vazia.

Na terça-feira, 22 de novembro, entrevistado pela Bloomberg, Satya Nadella levantou a hipótese de Sam Altman regressar à OpenAI, especificando que isso exigiria “mudanças na governação, para evitar mudanças súbitas em que não estaríamos informados”. De facto, o regresso de Altman é acompanhado por uma limpeza do conselho de administração que outrora dirigiu a empresa. O conselho será em grande parte reconstituído e a Microsoft deverá agora ter um lugar nele.

O papel fundamental de Ilya Sutskever na OpenAI

Ilya Sutskever já não será, sem dúvida, o caso. Cofundador e diretor científico da OpenAI, era também membro do comité administrativo, no qual votou a favor da saída de Altman. Então, porquê fazer de Brutus ou de Iago? A decisão de Sutskever é mais do que uma batalha pessoal. Revela a persistência de uma sombra nefasta: o medo de ver a IA perseguir objectivos contrários aos da humanidade.

Entrevistado num podcast sobre o mundo de amanhã, Ilya Sustkever expressou-o, em março de 2023, em termos comedidos: “Um mundo que eu consideraria muito pouco excitante seria aquele em que a poderosa ferramenta que estamos a construir fosse utilizada para dizer a um governo: ‘a IA generativa disse que a sociedade deve ser gerida desta forma, por isso vamos fazê-lo’. Preferia muito mais um mundo em que as pessoas continuassem a ser confrontadas com os seus erros, sofressem as consequências e evoluíssem gradualmente, moralmente e progredindo por si próprias, com a IA generativa a fornecer mais uma rede de segurança básica”.

O alinhamento das inteligências artificiais

Estamos muito longe das declarações de Elon Musk sobre a IA como “ameaça existencial” para a humanidade (em 2014, no MIT). Mas a preocupação de Sutskever levou-o a abordar o tema do “alinhamento” das inteligências artificiais no âmbito da OpenAI, um campo de investigação que visa produzir IAs orientadas para os desideratos dos seus criadores, ou seja, que não sejam capazes de extrapolar, antecipar ou ignorar as suas directivas.

Foi isto que o levou a tomar posição contra Altman? O caos organizacional parece ter sido acompanhado de uma crise moral para Sutskever, que escreveu no Twitter (agora X) na segunda-feira que “lamenta sinceramente (o seu) envolvimento na decisão da direção” de destituir Sam Altman. “Nunca foi minha intenção prejudicar a OpenAI. Adoro tudo o que construímos juntos e farei tudo o que estiver ao meu alcance para reunir a empresa”, continuou.

Os receios de Sutskever fazem lembrar os do seu antigo mentor, o cientista canadiano Geoffroy Hinton, com quem estudou na Universidade de Toronto. Muitas vezes apelidado de “o padrinho da IA”, Hinton demitiu-se do seu cargo na Google em maio de 2023, fazendo soar o alarme sobre os perigos da IA: “Primeiro, retira o trabalho árduo”, disse ao New York Times, “depois, pode retirar mais do que isso”.