Os perigos de uma IA sobre-humana explicados por cientistas

E se a maior ameaça à sobrevivência da Humanidade não fosse uma guerra, uma pandemia ou uma catástrofe natural, mas uma inteligência criada por nós próprios?

A Dom Quixote publica a 29 deste mês Se Alguém a Criar, Morremos Todos, livro de Eliezer Yudkowsky e Nate Soares, duas referências no campo do alinhamento da inteligência artificial.
Os autores analisam os riscos associados à criação de uma superinteligência artificial e defendem que, se for desenvolvida sem garantias adequadas, poderá conduzir à extinção da espécie humana. Um livro que lança uma questão inquietante: estaremos a criar uma inteligência que, um dia, poderá ser impossível de controlar?

Título original: If Anyone Builds It, Everyone Dies

Excerto
«Admitimos que este livro não está cheio de boas notícias. Mas também não estamos aqui para vos dizer que estamos condenados. A superinteligência artificial ainda não existe. A Humanidade ainda pode decidir não a criar.Travar a presente escalada da tecnologia e limitar o hardware utilizado para criar modelos de IA cada vez mais poderosos – eis algo que não é fácil de fazer no mundo de hoje. Mas dará muito menos trabalho travar uma escalada maior das capacidades da IA do que deu, por exemplo, combater na Segunda Guerra Mundial.»

Quem leu, o que diz
«O livro mais importante da década.» – Max Tegmark, professor de Física no MIT, autor de Life 3.0. Ser-se Humano na Área da Inteligência Artificial (Dom Quixote, 2019)

«Um argumento convincente de que uma IA sobre-humana conduziria quase certamente à aniquilação global da humanidade. Os governos de todo o mundo têm de reconhecer os riscos e tomar medidas coletivas e eficazes.» – Jon Wolfsthal, antigo assistente especial do presidente dos EUA para Assuntos de Segurança Nacional