Yoval Harari

Recorte de uma entrevista de Harari, hoje na FSP

Parece haver um discurso apocalíptico forte envolvendo a IA. Afinal, essa tecnologia pode nos destruir?
Algo estranho nessa indústria é que muitas pessoas que correm para construir uma IA avançada vivem alertando sobre seus perigos.

Quando converso com fundadores dos principais laboratórios de IA, eles contam uma história semelhante: adorariam reduzir o ritmo e investir mais em segurança, mas não confiam que os concorrentes nos EUA ou na China farão o mesmo. Por isso, dizem não ter opção a não ser acelerar ainda mais.

Na IA, é impossível prever todas as possíveis catástrofes. A inteligência artificial não é só uma ferramenta; é um agente. IAs podem tomar decisões, ter ideias totalmente novas e criar IAs superiores. Não sabemos como a IA evoluirá —e isso a torna tão perigosa.

Não entendo a lógica desses pesquisadores que correm para criar IAs mais poderosas. Quando dizem que não confiam nos concorrentes humanos, pergunto: “Vocês acham que poderão confiar numa IA superinteligente?”. Eles respondem que sim! Isso parece insano.

Com humanos, ao menos temos experiência e conhecimento de psicologia. Nunca lidamos com IA superinteligente. Não há como prever o que acontecerá quando milhões de agentes superinteligentes começarem a interagir conosco —e entre si.

A IA tem imenso potencial positivo —e negativo. Pode nos salvar ou nos destruir. O desfecho depende de os seres humanos confiarem mais uns nos outros do que confiam na IA. Se a humanidade cooperar para desenvolver IA com segurança, será a melhor invenção da história. Mas, se for criada por uma corrida armamentista entre pessoas que se odeiam e temem, é provável que nos destrua.

Nascido em Israel, é professor na Universidade Hebraica em Jerusalém e pesquisador na Universidade de Cambridge. Formado em história militar e medieval na Universidade Hebraica, tem doutorado pela Universidade de Oxford. Autor dos best-sellers mundiais “Sapiens – Uma Breve História da Humanidade”, “Homo Deus – Uma Breve História do Amanhã” e “21 Lições para o Século 21”, traduzidos para 65 idiomas.