Fonte original: 36 krypton
Nota do editor: O surgimento da inteligência artificial colocou o conceito de “singularidade” em primeiro plano.Muitas pessoas no Vale do Silício acreditam que a inteligência artificial mudará completamente a sociedade humana. No entanto, também existem preocupações sobre as possíveis consequências negativas da IA, incluindo a possibilidade de destruir a humanidade. Este artigo vem de uma compilação, na qual o autor discute o conceito de “singularidade”, discute a empolgação e as preocupações do Vale do Silício com a inteligência artificial e destaca os possíveis benefícios e riscos dessa tecnologia.
Fonte da imagem: Gerada por Unbounded AI
foco
- A singularidade, o momento em que a tecnologia e a inteligência artificial mudam drasticamente o mundo, é um conceito altamente esperado, mas que também apavora o Vale do Silício.
- Embora haja empolgação com o potencial impacto positivo da inteligência artificial, também existe a preocupação de que ela possa ter consequências desastrosas para a humanidade.
*Atualmente, grande parte da atenção em AI e Singularity está no desenvolvimento de grandes modelos de linguagem, mas ainda há debate sobre se esses modelos realmente representam o crescimento exponencial em inteligência prometido pela Singularity.
Por décadas, o Vale do Silício tem antecipado o surgimento de uma nova tecnologia que revolucionará estilos de vida, economias, instituições sociais e muito mais. Pode unir humanos e máquinas, possivelmente trazendo oportunidades e desafios sem precedentes e dividindo a história em duas eras “antes” e “depois”.
O nome deste marco pode ser chamado de “Singularidade”.
Nota do tradutor: “Singularidade” é um conceito proposto pelo escritor de ficção científica americano Vernor Vinge, que se refere a um possível evento ou situação no futuro, ou seja, a inteligência da inteligência artificial supera a dos seres humanos. O nível de inteligência, desencadeando assim mudanças explosivas na tecnologia e na sociedade, tornando difícil prever e entender o que acontecerá no futuro.
Singularidades podem surgir de várias maneiras. Uma possibilidade é que as pessoas tenham se tornado mais poderosas ao incorporar o poder de processamento dos computadores em sua própria inteligência inata. Ou, o computador pode ficar tão complexo que pode realmente pensar, criando um “cérebro global”.
Qualquer cenário trará mudanças drásticas e exponenciais, nenhuma das quais pode ser revertida. Uma máquina superinteligente autoconsciente capaz de projetar, melhorar e atualizar-se muito mais rápido do que qualquer equipe de cientistas certamente provocaria uma explosão intelectual. Os avanços feitos nos últimos séculos podem ser inovadores em apenas alguns anos ou mesmo meses. A singularidade é uma catapulta para o futuro.
Hoje, a inteligência artificial está criando ondas sem precedentes em tecnologia, negócios e política. A julgar por todas as hipérboles e absurdos vindos do Vale do Silício, parece que esse futuro extremamente promissor finalmente chegou.
Sundar Pichai, CEO geralmente discreto do Google, disse que “a inteligência artificial superou o fogo, a eletricidade ou qualquer conquista tecnológica do passado em importância e impacto”. O investidor bilionário Reid Hoffman (Reid Hoffman) disse: “O mundo dará início a uma força sem precedentes, que impulsionará toda a sociedade humana.” O cofundador da Microsoft, Bill Gates (Bill Gates) ) declarou que a inteligência artificial “mudará a maneira as pessoas trabalham, aprendem, viajam, recebem assistência médica e se comunicam”.
A inteligência artificial é o novo produto final do Vale do Silício, capaz de capacidades sobre-humanas sob demanda.
Mas também há um problema oculto que não pode ser ignorado. É como se as empresas de tecnologia lançassem carros autônomos com uma mensagem de alerta de que podem explodir a caminho do Walmart.
Em maio deste ano, Elon Musk, chefe da Tesla e do Twitter, disse em entrevista ao US Consumer News and Business Channel (CNBC): “O surgimento da inteligência artificial geral é chamado de milagre. O ponto é que depois disso , será difícil prever o que acontecerá a seguir.” Ele acredita que vamos inaugurar “uma era de abundância” (uma era de abundância), mas o risco de a inteligência artificial “destruir a humanidade” é “ainda inaceitável”. ".
No mundo da tecnologia, o maior defensor da inteligência artificial é Sam Altman, CEO da empresa americana de inteligência artificial OpenAI. O chatbot ChatGPT da startup, lançado no ano passado, também despertou entusiasmo contínuo. Altman disse que a IA será “a maior força no empoderamento econômico e riqueza para muitos”.
No entanto, para Musk, que fundou a empresa que desenvolve tecnologia de interface cérebro-computador, ele também acha que a crítica de Musk é justificada.
Não muito tempo atrás, Altman assinou uma carta aberta conjunta patrocinada pela organização sem fins lucrativos “Center for AI Safety” (Center for AI Safety). “Prevenir o risco de extinção representado pela inteligência artificial deve ser uma prioridade global”, a par de “pandemias e guerra nuclear”, afirmou a carta. Outros signatários incluem colegas da empresa OpenAI e cientistas da computação da Microsoft e do Google.
Sam Altman, CEO da OpenAI, uma empresa americana de inteligência artificial, é o maior defensor da inteligência artificial. Fonte da imagem: Haiyun Jiang
O apocalipse é um tópico familiar e até popular no Vale do Silício. Alguns anos atrás, quase todo executivo de tecnologia parecia ter construído um abrigo para o fim do mundo em algum lugar no meio do nada, bem abastecido para o caso de precisar. Em 2016, Altman também disse que “estocou armas, ouro, iodeto de potássio, antibióticos, baterias, água, máscaras de gás IDF e construiu um enorme abrigo em Big Sur para o qual você pode voar”. fez esses sobreviventes da tecnologia se sentirem justificados, pelo menos por um tempo.
Agora, eles se preparam para a chegada da singularidade.
A esse respeito, Baldur Bjarnason, autor de “The Intelligence Illusion”, disse: “Eles pensam que são muito sábios, mas suas palavras são mais como 1000 DC. Monges falando sobre o apocalipse. É um pouco preocupante.”
Origem do “Além”
As origens do conceito de “singularidade” remontam ao pioneiro da ciência da computação John von Neumann na década de 1950. Von Neumann certa vez previu que o “progresso constantemente acelerado da tecnologia” levaria a “uma singularidade fundamental na história humana”.
O pioneiro da ciência da computação, John von Neumann. Crédito da imagem: Getty Images
O matemático britânico Irving John Good também foi um forte defensor dessa visão. Ele ajudou o governo britânico a quebrar a máquina de cifras alemã Enigma em Bletchley Park (Bletchley Park, o principal local onde o governo britânico conduziu a quebra de códigos durante a Segunda Guerra Mundial). Em 1964, ele escreveu: “A construção precoce de máquinas superinteligentes é a chave para a sobrevivência da humanidade.”
Quando o diretor de cinema americano Stanley Kubrick dirigiu as filmagens do filme de ficção científica 2001: Uma Odisséia no Espaço, ele pediu conselhos a Goode sobre o personagem de inteligência artificial HAL, um dos primeiros exemplos da fronteira tênue entre ciência da computação e ciência da computação. ficção científica.
Hans Moravec, professor adjunto do Instituto de Robótica da Carnegie Mellon University, acredita que o advento da Singularidade não apenas beneficiará os vivos, mas também trará os mortos de volta à vida.
“Teremos a oportunidade de recriar e interagir com o passado de maneiras reais e imediatas”, ele escreve em Mind Children: The Future of Robot and Human Intelligence.
O empresário e inventor Ray Kurzweil também tem sido o maior defensor da Singularidade nos últimos anos. Kurzweil é o autor de The Age of Intelligent Machines em 1990 e The Singularity Is Near em 2005. Kurzweil está atualmente escrevendo o livro The Singularity Is Near.
Ele prevê que, até o final desta década, os computadores passarão no teste de Turing e serão indistinguíveis dos humanos. Mais quinze anos depois, a verdadeira transcendência virá: “Quando a tecnologia de computação for integrada a nós, nossa inteligência será muito aprimorada, talvez centenas de vezes.”
Kurzweil teria então 97 anos. Com a ajuda de várias vitaminas e suplementos, ele espera viver para ver essa era chegar.
O empresário e inventor Ray Kurzweil também é o maior defensor da Singularidade. Crédito: Friso Gentsch/Picture Alliance
Alguns críticos da Singularidade acreditam que o conceito de Singularidade tenta criar um sistema de crenças no campo do software que seja semelhante a uma crença religiosa organizada.Apoiado por evidências científicas rigorosas, é difícil ser convincente.
“Todos eles querem a imortalidade, mas não querem acreditar em ‘Deus’”, disse Rodney Brooks, ex-diretor do Laboratório de Ciência da Computação e Inteligência Artificial do MIT.
Hoje, as inovações na controvérsia da “Singularidade” envolvem principalmente grandes modelos de linguagem (LLM), o sistema de inteligência artificial que também está no centro do desenvolvimento dos chatbots. Fale com esses grandes modelos de linguagem e eles podem responder a perguntas de forma rápida, coerente e, muitas vezes, com respostas bastante esclarecedoras.
De acordo com Jerry Kaplan, um empresário de IA de longa data e autor de Inteligência Artificial: O que todos precisam saber, “Quando você pergunta a um grande modelo de linguagem Finalmente, ele entende o significado da pergunta, determina qual deve ser a resposta e, em seguida, apresenta o responda em linguagem escrita. Se esta não é a definição de inteligência geral, o que é?”
Kaplan também disse que é cético em relação a tecnologias de alto perfil, como carros sem motorista e criptomoedas. Da mesma forma, ele era cético sobre a última mania da IA, mas começou a mudar de ideia sobre a IA depois de ver o potencial que ela apresenta.
“Se isso não é a ‘singularidade’, certamente é. É uma tecnologia de enorme impacto que fará a humanidade avançar significativamente nas artes, nas ciências e no conhecimento. E, claro, trará alguns problemas”, disse ele. adicionado.
Os críticos respondem que, mesmo que grandes modelos de linguagem alcancem resultados impressionantes, isso não pode igualar a vasta inteligência global representada pela Singularidade. Parte do problema em traçar a linha entre o exagero e a realidade é que os princípios e algoritmos que impulsionam essa tecnologia estão se tornando cada vez mais difíceis de revelar.
A OpenAI começou como uma organização sem fins lucrativos usando código-fonte aberto, mas desde então se transformou em uma empresa com fins lucrativos. Alguns críticos apontam que o OpenAI agora é efetivamente uma “caixa preta” e é difícil para todos entenderem seu funcionamento interno. Nesse sentido, Google e Microsoft também apresentam baixo grau de divulgação de informações.
Grande parte da pesquisa atual sobre inteligência artificial é liderada por empresas que se beneficiam dos resultados. Uma versão preliminar do modelo mais recente da OpenAI “demonstra vários recursos inteligentes”, incluindo “capacidade abstrata, compreensão, capacidade visual, capacidade de codificação” e “a capacidade de entender a motivação e a emoção humanas”.
Rylan Schaeffer, estudante de doutorado em ciência da computação na Universidade de Stanford, diz que alguns pesquisadores de IA foram imprecisos ao descrever o “poder emergente” exibido por esses grandes modelos de linguagem. Embora esses modelos de linguagem grandes tenham alguns recursos desconhecidos e difíceis de interpretar, esses recursos não são aparentes ou presentes nas versões de modelos de linguagem menores.
Schafer e dois outros colegas de Stanford, Brando Miranda e Sanmi Koyejo, examinaram a questão em um trabalho de pesquisa publicado em maio, concluindo que essa habilidade emergente é apenas uma “ilusão” causada por erros de medição, não devido a aumentos no tamanho e na complexidade do modelo. . Na verdade, os pesquisadores podem estar inclinados a ver os resultados que desejam ver.
Imortalidade, Imortalidade
Em Washington, Londres e Bruxelas, os legisladores começam a reconhecer as oportunidades e os problemas colocados pela inteligência artificial e começam a discutir questões regulatórias. Altman está fazendo um roadshow promocional para a OpenAI, com o objetivo de afastar os primeiros críticos, ao mesmo tempo em que apresenta sua empresa como líder na era da singularidade.
Isso inclui estar aberto à regulamentação, mas a forma específica de regulamentação ainda não está clara. Ainda assim, existe uma percepção generalizada no Vale do Silício de que as agências governamentais são ineficientes e carecem de experiência para regular efetivamente o setor de tecnologia em rápida evolução.
“Não há ninguém na agência governamental que esteja acertando isso”, disse o ex-CEO do Google, Eric Schmidt, ao programa de entrevistas “Meet the Press” no início deste ano ", e apresentou a ideia de autorregulação da inteligência artificial. “Mas a indústria tem capacidade dentro da indústria para obter os regulamentos mais ou menos corretos”, acrescentou.
A inteligência artificial, como a singularidade tecnológica, é vista como irreversível nas mudanças que traz. Altman e seus colegas afirmaram recentemente que “mecanismos de controle semelhantes ao sistema regulatório global devem ser estabelecidos para conter o desenvolvimento da inteligência artificial, mas mesmo isso não pode garantir o sucesso”. isto.
No entanto, os enormes lucros gerados a partir dele raramente são discutidos no momento. Apesar da percepção popular de que a inteligência artificial é uma máquina que cria riqueza ilimitada, são essencialmente os já ricos que estão lucrando com isso.
Este ano, o valor de mercado da Microsoft disparou US$ 5 trilhões. A Nvidia, que fabrica chips para sistemas que executam inteligência artificial, também se tornou recentemente uma das empresas públicas mais valiosas dos Estados Unidos devido a um aumento na demanda por chips.
“A inteligência artificial é a tecnologia que a sociedade humana sempre desejou ter”, tuitou Altman.
É inegável que esta é de fato uma tecnologia que o mundo da tecnologia estava esperando e chegou em um momento perfeito.
No ano passado, o Vale do Silício sofreu um duplo golpe de demissões e aumento das taxas de juros, enquanto as criptomoedas, após um período de alta e baixa, rapidamente diminuíram devido a fraudes e decepções que se seguiram.
“Siga o dinheiro”, diz Charles Stross, co-autor de The Rapture of the Nerds, um romance de ficção científica que retrata com humor a singularidade tecnológica. Stross também é o autor do romance de ficção científica Accelerando, no qual ele também pinta um quadro mais sério e sério de como pode ser a vida no futuro.
“A oportunidade real é que as empresas poderão substituir muitas unidades de processamento de informações operadas por humanos, defeituosas, caras e sem resposta por software, reduzindo assim os custos e aumentando a eficiência”, disse ele.
Por muito tempo, as pessoas imaginaram a singularidade tecnológica como um evento de impacto global, que pode subverter completamente o sistema cognitivo humano, e o poder dessa mudança é incrível. Por enquanto, essa possibilidade ainda existe.
No entanto, devido em parte à busca extrema de lucros corporativos no Vale do Silício hoje, isso levará a singularidade tecnológica a ser usada como uma ferramenta de dispensa em primeiro lugar. Na busca por uma capitalização de mercado de trilhões de dólares, questões menores podem ser deixadas de lado por enquanto.
