Opinião

Anúncio

Apoiado por

Ensaio de Convidado

Por Alexander C. Karp

Karp é CEO da Palantir Technologies, uma empresa que cria software de análise de dados e trabalha com o Departamento de Defesa dos EUA.

Em 1942, J. Robert Oppenheimer, filho de um pintor e importador de têxteis, foi nomeado para liderar o Projeto Y, o esforço militar estabelecido pelo Projeto Manhattan para desenvolver armas nucleares. Oppenheimer e os seus colegas trabalharam em segredo num laboratório remoto no Novo México para descobrir métodos para purificar o urânio e, finalmente, para conceber e construir bombas atómicas funcionais.

Ele tinha uma tendência para a ação e a investigação.

“Quando você vê algo que é tecnicamente interessante, você vai em frente e faz”, disse ele a um painel do governo que mais tarde avaliaria sua aptidão para permanecer a par dos segredos dos EUA. “E você discute sobre o que fazer a respeito somente depois de obter sucesso técnico. Foi assim que aconteceu com a bomba atômica.” Sua habilitação de segurança foi revogada logo após seu depoimento, encerrando efetivamente sua carreira no serviço público.

Os sentimentos de Oppenheimer sobre o seu papel na conjuração da arma mais destrutiva da época mudariam após os bombardeamentos de Hiroshima e Nagasaki. Numa palestra no Instituto de Tecnologia de Massachusetts, em 1947, ele observou que os físicos envolvidos no desenvolvimento da bomba “conheceram o pecado” e que este é “um conhecimento que não podem perder”.

Chegámos agora a uma encruzilhada semelhante na ciência da computação, uma encruzilhada que liga a engenharia e a ética, onde teremos novamente de escolher se iremos prosseguir com o desenvolvimento de uma tecnologia cujo poder e potencial ainda não compreendemos totalmente.

A escolha que enfrentamos é entre controlar ou mesmo travar o desenvolvimento das formas mais avançadas de inteligência artificial, que alguns argumentam que podem ameaçar ou algum dia substituir a humanidade, ou permitir uma experimentação mais irrestrita com uma tecnologia que tem o potencial de moldar o mundo internacional. política deste século da mesma forma que as armas nucleares moldaram o século passado.

As propriedades emergentes dos mais recentes grandes modelos linguísticos – a sua capacidade de unir o que parece ser uma forma primitiva de conhecimento do funcionamento do nosso mundo – não são bem compreendidas. Na ausência de compreensão, a reacção colectiva aos primeiros encontros com esta nova tecnologia foi marcada por uma mistura desconfortável de admiração e medo.

Alguns dos modelos mais recentes têm um trilhão ou mais de parâmetros, variáveis ajustáveis dentro de um algoritmo de computador, representando uma escala de processamento que é impossível para a mente humana começar a compreender. Aprendemos que quanto mais parâmetros um modelo tiver, mais expressiva será a sua representação do mundo e mais rica será a sua capacidade de espelhá-lo.

O rápido avanço dos modelos de IA comparados

com tecnologia nuclear

À medida que as redes de inteligência artificial se tornam maiores e mais capazes, torna-se cada vez mais tentador utilizá-las para construir sistemas de armas altamente eficazes, ecoando o dilema moral enfrentado pelos inventores da bomba nuclear durante a Segunda Guerra Mundial.

Dispositivos Nucleares

Sistemas de aprendizado de máquina

Rendimento explosivo em quilotons

Número de parâmetros

10 trinados.

50.000

Czar Bomba

Ambos os maiores

modelos publicados

hoje são chineses

Maior nuclear

dispositivo detonado

pelos EUA

1.000x

maior que

garotinho

1 trinado.

GPT-4

10.000

GPT-3

100 bilhões.

LLaMA

10 bilhões.

DÊ A ELA

100x

maior

GPT-2

Eu estava.

1.000

100 mil.

10 milhões.

AlfaGo

100

O teste da Trindade

e homem gordo

1 mil.

100.000

garotinho

'23

'62

1945

2006

O rápido avanço dos modelos de IA comparados

com tecnologia nuclear

Notícias