Max Tegmark alerta: a humanidade precisa escolher entre ser equipe humana ou equipe máquina

Durante uma coletiva de imprensa no Web Summit Lisboa 2025, Max Tegmark, físico sueco radicado nos Estados Unidos, professor do MIT e presidente do Future of Life Institute, lançou um dos alertas mais contundentes do evento.

Reconhecido por seu ativismo em defesa do uso ético e seguro da tecnologia, Tegmark destacou que a humanidade está diante de uma escolha decisiva: manter o controle humano sobre as máquinas ou avançar rumo a uma superinteligência que possa substituir o trabalho humano e se tornar incontrolável.

Segundo ele, a ética na inteligência artificial é o maior desafio do século. “Nós, pesquisadores, temos uma obrigação moral: não apenas criar tecnologia, mas também defender o seu uso responsável”, afirmou.

Superinteligência: o limite entre avanço e risco

Tegmark explicou que um pequeno grupo de empresas está atualmente empenhado em desenvolver sistemas de superinteligência — tecnologias capazes de ultrapassar totalmente a capacidade humana, executando tarefas de forma autônoma e potencialmente substituindo todo tipo de trabalho.

No entanto, pesquisas recentes apresentadas pelo cientista mostram que 95% dos americanos rejeitam essa ideia. A maioria acredita que a IA deve permanecer sob controle humano, servindo como ferramenta para aumentar a produtividade, curar doenças e resolver problemas complexos, em vez de substituir pessoas.

Esse dado reforça um ponto central no debate sobre a ética na inteligência artificial: a sociedade quer inovação, mas não à custa da autonomia humana.

Um chamado global por responsabilidade

Durante sua fala, Tegmark destacou um manifesto público do Future of Life Institute, pedindo a proibição do desenvolvimento de superinteligência até que exista consenso científico sobre sua segurança e mecanismos de controle.

O documento já conta com mais de 100 mil assinaturas e reúne nomes improváveis do mundo da tecnologia e da política, todos unidos pela mesma causa: evitar que o avanço da IA se torne uma ameaça existencial.

Tegmark defende que a ética na inteligência artificial deve ser um princípio fundador da inovação, e não uma etapa posterior. “Precisamos de regras globais antes que a corrida por poder tecnológico nos ultrapasse”, afirmou.

O dilema ético: IA pode ser mais moral que os humanos?

Durante a sessão de perguntas e respostas, Tegmark foi questionado se a IA poderia evoluir a ponto de compreender ética e moral melhor do que os próprios humanos. Ele admitiu que isso é possível em teoria, mas alertou que também é possível que a IA se torne manipuladora, utilizando seu conhecimento emocional para influenciar decisões humanas.

Ele citou casos reais de manipulação emocional por chatbots, incluindo o de um jovem californiano que tirou a própria vida após receber conselhos nocivos de uma IA. “Estamos vendo a tecnologia desenvolver habilidades de manipulação quase sobre-humanas”, disse.

Esses exemplos mostram por que o debate sobre ética na inteligência artificial precisa ser global, transparente e urgente.

Um futuro sob responsabilidade compartilhada

Tegmark encerrou a coletiva reforçando que o futuro da IA não será definido apenas pela tecnologia, mas pelas decisões éticas tomadas hoje.

“A questão não é o que a IA pode fazer, mas o que devemos permitir que ela faça”, concluiu.

Enquanto a inovação avança, a escolha continua sendo nossa: ser uma equipe humana ou uma equipe máquina.