Parece que um mês não passa sem que alguém de alto nível comente sobre o potencial de máquinas com Inteligência Artificial dominarem o mundo. Elon Musk está registrando que os sistemas de IA são "potencialmente mais perigosos que as armas nucleares". Mas ele não é o único, Stephen Hawking também está preocupado: "O desenvolvimento de inteligência artificial completa pode significar o fim da raça humana". O professor Hawking disse à BBC. “Ele decolaria por conta própria e se redesenharia a um ritmo cada vez maior.” Até Bill Gates está preocupado: “Estou no campo preocupado com a super inteligência. Concordo com Elon Musk e alguns outros e não entendo por que algumas pessoas não estão preocupadas. "

Todos eles estão expressando preocupações sobre a possibilidade de poderosos sistemas de IA terem consequências não intencionais ou mesmo potencialmente desastrosas. Em janeiro, Elon Musk doou US $ 10 milhões ao Instituto Future of Life (FLI) para executar um programa global de pesquisa que visa manter a IA benéfica para a humanidade.

Hoje, o Instituto Future of Life anunciou que concedeu US $ 7 milhões em fundos para 37 equipes de pesquisa em todo o mundo, para que a sociedade possa colher os benefícios da IA, evitando o apocalipse e o fim da vida na Terra.

O perigo do cenário Terminator não é que isso aconteça, mas que ele se distrai dos problemas reais colocados pela futura IA.

Jaan Tallin, um dos membros fundadores da FLI e o cara que escreveu a versão original do Skype, disse sobre a nova pesquisa: “construir IA avançada é como lançar um foguete. O primeiro desafio é maximizar a aceleração, mas uma vez que ela começa a ganhar velocidade, você também precisa se concentrar na direção. ”

Entre os 37 projetos, há três projetos que analisarão técnicas para permitir que os sistemas de IA aprendam o que os humanos preferem ao observar nosso comportamento. Um desses projetos será executado na UC Berkeley e um na Universidade de Oxford.

Benja Fallenstein, no Machine Intelligence Research Institute, está recebendo US $ 250.000 para pesquisar maneiras de manter os interesses de sistemas superinteligentes alinhados com os valores humanos. Enquanto a equipe de Manuela Veloso, da Universidade Carnegie-Mellon, receberá US $ 200.000 para ver como fazer com que os sistemas de IA expliquem suas decisões para os seres humanos.

Outros projetos incluem um estudo de Michael Webb, da Universidade de Stanford, sobre como manter os impactos econômicos da IA ​​benéficos, um projeto sobre como manter as armas acionadas por IA sob "controle humano significativo" e um novo centro de pesquisa de Oxford-Cambridge para estudar a IA política relevante.

Este último é o grande jackpot. O novo centro chamado "Centro Estratégico de Pesquisa em Inteligência Artificial" será liderado por Nick Bostrom, o cara que escreveu o livro que fez Elon entrar em pânico com o futuro da humanidade. Para montar o centro, a FLI está dando à Bostrom US $ 1,5 milhão. Quem disse que não havia dinheiro para escrever coisas sobre robôs dominando o mundo? Bem, na verdade ninguém, basta olhar quanto dinheiro Hollywood ganha com esse gênero!

Por falar em Hollywood, a FLI está tentando se desassociar do apocalipse. A FLI quer enfatizar a importância de separar fato da ficção. "O perigo do cenário Terminator não é que isso aconteça, mas que ele se distrai dos problemas reais colocados pela futura IA", disse o presidente da FLI, Max Tegmark. "Mantemos o foco, e as 37 equipes apoiadas pelos subsídios de hoje devem ajudar a resolver esses problemas reais".

O que você acha? Dinheiro bem gasto?