Max Tegmark define a Inteligência Artificial Geral (AGI) como uma inteligência artificial capaz de superar a inteligência humana em praticamente todas as tarefas, incluindo aquelas que envolvem criatividade, resolução de problemas e aprendizado. Segundo ele, a AGI tem potencial para se tornar uma “nova espécie digital”, mas também representa riscos imensos para a humanidade se não for adequadamente controlada. “Não temos ideia de como controlar algo tão poderoso”, afirmou Tegmark em sua palestra no Web Summit 2024.

Revolução da Inteligência Artificial

Durante sua palestra, Tegmark destacou a velocidade com que a inteligência artificial evoluiu nos últimos anos. Ele comparou o avanço da tecnologia à rapidez com que os robôs passaram de realizar simples movimentos para tarefas complexas, como manipular objetos com precisão. Essa transformação, segundo ele, desafia a percepção de que a AGI está a décadas de distância.

Benefícios da IA sem a necessidade de AGI

Tegmark foi enfático ao desmistificar a ideia de que a AGI é indispensável para alcançar benefícios significativos. Exemplos práticos incluem a redução de acidentes de trânsito, avanços em diagnósticos médicos, desenvolvimento de medicamentos inovadores e democratização da educação global. Ele ressaltou: “Podemos alcançar um impacto imenso com IA sem precisar construir a AGI.”

Riscos de controle e extinção humana

O palestrante alertou que a AGI, se desenvolvida sem regulamentações, poderia alcançar objetivos desalinhados com os interesses humanos. Ele mencionou exemplos hipotéticos de máquinas altamente competentes, mas com intenções que podem prejudicar a humanidade. “O maior risco não é se a AGI será consciente, mas se será extremamente competente em alcançar metas opostas às nossas.”

Ética e regulação:uUm caminho necessário

Tegmark defendeu padrões de segurança globais para impedir que a AGI seja desenvolvida de maneira irresponsável. Ele sugeriu um esforço conjunto entre as grandes potências, como EUA e China, para criar tratados que regulem o uso de AGI. “A segurança deve ser prioridade, assim como em outras indústrias, como a farmacêutica”, destacou.

Guerra da AGI e o paradoxo da competição

Ele comparou a corrida pelo desenvolvimento da AGI a uma “guerra de suicídio”, onde nenhuma nação realmente se beneficia. Para Tegmark, o único movimento vencedor é não participar dessa corrida. Ele reiterou que os governos têm o poder de proibir o desenvolvimento descontrolado da AGI, como já fizeram com tecnologias perigosas no passado.

Inovação e controle

Tegmark argumentou que a inovação não seria comprometida com regulamentações. Ele afirmou que padrões de segurança podem, na verdade, impulsionar avanços tecnológicos mais rápidos e seguros. A IA, segundo ele, pode até mesmo contribuir para criar mecanismos de controle mais eficientes.

Humanidade frente à AGI

Max Tegmark concluiu sua palestra com uma reflexão sobre o impacto da AGI na humanidade. Ele destacou a importância de priorizar um futuro no qual a tecnologia seja usada para melhorar vidas e não para substituí-las. “Temos a chance de construir um futuro inspirador com a IA, mas precisamos evitar os erros que podem nos levar à ruína.”