A IA já começou a ter um grande impacto no mundo, e isso assusta os desenvolvedores. Mistério Resumo.


Especialista em inteligência artificial, fundador do Center for Human Compatible AI da Universidade da Califórnia em Berkeley, o professor Stuart Russell disse que seus colegas estão "assustados" com seus próprios sucessos nesta área e comparou o progresso no desenvolvimento da IA ​​com a criação da bomba atômica. Quase todos os especialistas acreditam que máquinas superando os humanos em inteligência serão inventadas neste século, disse ele, e apelou a uma regulamentação urgente desta tecnologia a nível internacional.

“A comunidade de IA ainda não se acostumou com o fato de que começamos a ter um impacto muito grande no mundo real”, disse o professor Russell em uma entrevista.

A inteligência artificial começou a penetrar em muitas áreas da vida, de motores de busca na Internet a bancos, e os avanços no reconhecimento de imagens e na tradução automática estão entre as principais conquistas dos últimos anos. Stuart Russell, que fará uma série de palestras intitulada “Living with Artificial Intelligence” na rádio BBC este ano, acredita que há uma necessidade urgente de supervisionar o desenvolvimento de IA superinteligente.

De acordo com Russell, a IA projetada para resolver problemas estreitos é muito arriscada para resolver problemas reais. Por exemplo, é perigoso pedir a uma IA para resolver um problema de câncer o mais rápido possível. 

“Nesse caso, ele provavelmente encontrará uma maneira de transplantar células cancerosas para toda a humanidade, a fim de realizar milhões de experimentos em paralelo, usando todos nós como cobaias”, disse o cientista. "E tudo porque essa é a solução para o problema que demos a ele. Nós apenas esquecemos de esclarecer que você não pode realizar experimentos em humanos e usar todo o PIB mundial para realizar experimentos, e muito mais não é permitido.”

O professor acredita que ainda há uma grande diferença entre a IA atual e aquela exibida em filmes de ficção científica como Ex Machina, mas é provável um futuro em que as máquinas sejam mais inteligentes que os humanos. 

“Acho que o prazo varia de 10 anos, no cenário mais otimista, a várias centenas”, disse ele. “Mas quase todos os pesquisadores de IA dirão que isso acontecerá neste século.”

O problema é que a IA não precisa ser mais inteligente do que os humanos para ser uma ameaça séria para eles. Você não precisa ir muito longe para obter exemplos - basta olhar para os algoritmos das redes sociais que decidem o que as pessoas devem ler e assistir. Eles já têm um grande impacto na percepção das pessoas. E os desenvolvedores de IA, de acordo com Russell, ficam intimidados com seu próprio sucesso.

“Isso é um pouco parecido com o que aconteceu na física quando os cientistas perceberam que a energia atômica existe, que eles podem medir a massa de diferentes átomos e entender quanta energia seria liberada se alguns tipos de átomos fossem transformados em outros. E então aconteceu e ninguém estava pronto para isso”, explicou Russell.

O cientista está convencido de que o futuro da IA ​​reside no desenvolvimento de máquinas que, como servidores bem treinados, tratam das pessoas em todos os problemas sem tomar decisões por conta própria. Deve-se presumir que diferentes pessoas podem ter preferências diferentes - e às vezes conflitantes - e elas mudam com o tempo. Ele pede algum código para desenvolvedores e organizações para garantir a imparcialidade da IA. Além disso, a proibição da UE de disfarçar carros como pessoas deve ser estendida a todo o mundo.

Em cinco anos, a IA permitirá que algoritmos “leiam documentos legais” e “dêem conselhos médicos”, disse Sam Altman, cofundador e presidente da organização sem fins lucrativos OpenAI. Em dez, os carros estarão em massa na esteira e, possivelmente, até virar empresas. Mesmo mais tarde, a IA fará quase tudo, incluindo descobertas científicas. Como resultado, a IA criará “abundância fenomenal”, mas ao mesmo tempo o custo do trabalho cairá para quase zero.

[Unexplained]

Postagem mais recente Postagem mais antiga
 
});