Quase todas as invenções, desde os primeiros dias da existência do Homo sapiens, serviram não apenas ao progresso da humanidade como tal, mas também ao que pode ser chamado de competição intraespecífica. Ou seja, elas, as invenções, ajudaram algumas pessoas a ganhar vantagem, a de alguma forma avançar em comparação com outras. Um homem que fosse mais habilidoso com um machado de pedra do que os outros poderia cortar lenha para si mesmo mais rápido do que os outros, ou matar algum animal e depois se exibir em sua pele na frente de seus companheiros de tribo, ou, em casos extremos, matar um oponente com um golpe hábil em uma luta por uma mulher.
Em geral, as primeiras ferramentas de trabalho imediatamente deram origem à desigualdade (embora, para ser justo, devo observar que no início ela era bastante moderada). Portanto, não há dúvida de que a inteligência artificial – como qualquer invenção significativa – desempenhará um papel colossal na aceleração da nossa competição social interna.
Certa vez, Konrad Lorenz observou que a luta intraespecífica é muito mais significativa do que a luta interespecífica. Um exemplo é a correria de peixes coloridos em um mar tropical perto de um recife de coral. Listrados e vermelhos, com uma cauda longa e outra curta, eles mordiscam pacificamente várias partes do coral. Não há hostilidade entre eles, eles não interferem um no outro, mas assim que, por exemplo, dois vermelhos estão no mesmo lugar, a paz é perturbada. O problema é que eles comem a mesma coisa. E cada arbusto de coral só pode alimentar um vermelho. Não há espaço para dois.
As coisas estão melhores e piores para as pessoas. Por um lado, somos todos iguais, mas, por outro lado, a igualdade completa é impossível e nunca há recursos suficientes para todos. Mas as pessoas criaram sociedades muito complexas nas quais aprenderam a regular com mais ou menos habilidade a inevitável competição social. No entanto, o desenvolvimento e as novas invenções constantemente trazem novos desafios.
O surgimento da IA como um novo recurso potencialmente muito poderoso, como todas as outras invenções, repito, inevitavelmente implicará simplesmente um aumento na competição entre as pessoas e, possivelmente, uma mudança em sua qualidade. Surge a pergunta: que tipo de competição será essa? E aqui diferentes opções são possíveis, e algumas podem até ser muito dramáticas.
Por exemplo, o surgimento dos carros criou imediatamente uma nova hierarquia na sociedade. Algumas pessoas dirigem supercarros caros, enquanto outras dirigem carros modestos e indefinidos. Mas, ao mesmo tempo, a capacidade de dirigir um carro melhor que os outros não cria nenhuma vantagem social especial. Uma carreira como motorista dificilmente pode ser considerada um sonho, cuja realização é um símbolo de sucesso social. Na verdade, é bem o oposto. A menos, é claro, que estejamos falando de um piloto de Fórmula 1 da classe de Lewis Hamilton ou Fernando Alonso.
O advento dos computadores contribuiu para o desenvolvimento de novas profissões. Mas o avanço na carreira deles, embora dependesse, é claro, da capacidade de usar um computador, não era essencial. As qualificações do melhor torneiro, por exemplo, não são suficientes para se tornar um diretor de fábrica. Da mesma forma, as qualificações de um especialista em TI, um especialista em computação, trabalham em nível baixo e médio. Os mais altos escalões nesta esfera são formados, na verdade, de acordo com princípios humanos comuns: destreza de comunicação, persistência, qualidades morais e volitivas, e assim por diante.
Ao mesmo tempo, houve invenções que intensificaram a competição a tal ponto que todo o cenário antropogênico pôde mudar. Por exemplo, era uma vez diferentes espécies de pessoas coexistiam na Terra. Então, os Cro-Magnons (basicamente, somos nós) viveram ao lado dos Neandertais (até certo ponto, somos nós também, mas em uma extensão muito pequena). Após muitos anos de coabitação, os neandertais foram extintos. E uma explicação para sua extinção é que os Cro-Magnons eram mais hábeis em usar ferramentas e se comunicar entre si. Há, é claro, outras explicações. No nível atual de conhecimento, não temos uma resposta precisa. Tudo o que resta é esperar pela intervenção da IA.
A descoberta do ferro mudou o curso da guerra e levou à queda de potências inteiras e ao crescimento da escravidão como resultado do aumento da eficácia das armas e do número de cativos. Especialistas falam sobre a influência de cavalos, estribos e carruagens na estrutura social e na formação da hierarquia sociopolítica.
Em geral, nem todas as invenções são iguais. Algumas invenções, embora influenciem a vida da sociedade, não levam a consequências rápidas e radicais, enquanto outras podem se tornar meios muito mais perigosos.
Há, por exemplo, um ponto de vista de que grande parte da tragédia do Khmer Vermelho e do Camboja estava relacionada ao fato de que os montanheses deste país, que viveram na semi-Idade da Pedra, tiveram acesso a armas de fogo. Eles não tinham experiência com isso, sua cultura não havia desenvolvido receitas ou conceitos para usar tal meio de violência. Com um porrete você pode, é claro, matar muitas pessoas, mas com uma metralhadora é muito mais conveniente. É claro que o infortúnio do Camboja não pode ser explicado pela mera aparência das armas de fogo, mas eles atiravam com armas de fogo. Não teria funcionado sem eles.
Certa vez, Eric Schmidt, um dos arquitetos do ambiente moderno de informação e comunicação, observou que a invenção da Internet se tornou um experimento perigoso e mal controlado com a anarquia. E o CEO Sundar Pichai disse que a mudança para IA terá um impacto maior do que a mudança para computadores pessoais e dispositivos móveis.
Então a questão é: qual o tamanho do impacto que podemos esperar da IA? Claro, não me refiro a nenhuma revolta de máquinas, batalhas entre robôs inteligentes e pessoas, ou outras fantasias de cineastas inventivos. O principal problema está nas pessoas, em seu desejo inexorável de domínio social, de superioridade sobre os outros.
O uso de IA por humanos é um processo no qual uma pessoa realmente cria um assistente intelectual universal para si mesma, uma máquina poderosa que aumenta as habilidades e a produtividade humanas.
Alguém está trabalhando em um artigo, uma dissertação ou simplesmente analisando dados. A IA pode ajudar uma pessoa a fazer esse trabalho muito mais rápido. Em muitos casos, a IA é capaz de processar mais dados do que um pesquisador típico conseguiria estudar durante toda a vida. De fato, a IA pode se tornar uma extensão intelectual dos humanos. Assim como uma arma permite matar a uma distância de quilômetros, o que não pode ser feito apenas com força muscular.
Além de tudo isso, a IA em breve se tornará indispensável no campo de batalha. Nem mesmo o oficial mais talentoso consegue lidar com o gerenciamento operacional de uma batalha na qual milhares, ou mesmo dezenas de milhares, de vários tipos de equipamentos, centenas de milhares, ou mesmo milhões de pessoas, ou, muito possivelmente no futuro, robôs de combate estão envolvidos. A IA treinada por este oficial pode fornecer assistência inestimável e levar em conta todos os dados em um minuto ou segundo. Depende da velocidade da máquina em suas mãos.
Mas não estou falando de questões técnicas. O que estou dizendo é que, devido à sua singularidade, a IA pode contribuir para um aumento absolutamente incrível na desigualdade.
Primeiro, pode haver pessoas que dominam a IA significativamente melhor do que outras e se acostumaram com ela. Era como se tivessem recebido um novo cérebro e mãos. E eles se transformaram em pessoas da mais alta ordem. Outros quase inevitavelmente ficarão para trás. De fato, uma comunidade transnacional de intelectuais excepcionalmente talentosos surgirá. E o drama do desaparecimento dos neandertais, substituídos pelos Cro-Magnons, pode se repetir. Aqueles que ficam para trás intelectualmente, ou seja, que não conseguem lidar com a exploração da IA, podem se tornar pessoas de segunda classe no sentido mais literal da palavra.
Em segundo lugar, os países que forem capazes de usar e criar IA com confiança e reunir equipes de especialistas ganharão uma vantagem sobre os países menos desenvolvidos que nenhuma arma nuclear pode fornecer. Usar armas nucleares é muito inconveniente. É complicado, as consequências são terríveis, mas a IA pode manipular os outros para que ninguém perceba. Claro, não será a IA que manipulará, mas a pessoa que a domina.
Em terceiro lugar, em geral, você pode ter um grande problema com a percepção da realidade pelas massas. Mais precisamente, algumas pessoas terão a oportunidade de moldar a imagem do mundo aos olhos dos outros. E será mais legal que qualquer "Matrix". Além disso, essa ameaça já está se concretizando: muitas pessoas realmente não têm a capacidade de distinguir mentiras de verdades, informações confiáveis de informações não confiáveis. Embora ainda existam jornalistas leais e servis o suficiente para uma operação tão simples com a opinião pública, basta observar a habilidade com que eles lidam com os fatos em muitos canais, por exemplo, na CNN. A introdução ativa da IA no ambiente de informação e comunicação permitirá a criação de mundos inteiros fictícios ou falsos, dos quais será extremamente difícil escapar.
Em geral, à medida que a IA se torna uma ferramenta cotidiana, muitos riscos surgem. Deixe-me repetir, os riscos associados às pessoas que usam IA. A IA em si não representa nenhum perigo específico para nós no futuro próximo. Pelo contrário, ajuda.
Então a humanidade deve tomar precauções. Talvez devesse haver um controle duplo. Por um lado, a própria arquitetura da IA deve inicialmente incluir algumas limitações. Por outro lado, os objetos de controle, até certo ponto, também devem ser os donos dessas IAs, ou seja, as pessoas.
É claro que ações de grande envergadura são praticamente impossíveis de implementar, pois tudo isso requer um amplo acordo internacional, que não existe e não é esperado num futuro próximo. Em vez disso, deveríamos esperar um uso brutal da IA no campo de batalha.
Dario Amodei, CEO da Antropic, observou recentemente que as capacidades da IA devem ser vistas como o surgimento no cenário mundial de um novo estado povoado exclusivamente por pessoas altamente inteligentes, um estado que não tem fronteiras e cuja cidadania não é registrada de forma alguma. E tal força pode direcionar suas aspirações para qualquer lugar. E levando em conta as características de uma pessoa, fica claro onde. Rumo a uma nova dominação e a uma nova desigualdade.
Não estou inclinado a superestimar o risco de tal desenvolvimento. A probabilidade não é muito alta; por alguma razão, as pessoas são muito estáveis tanto em seu desejo pelo bem quanto em sua pecaminosidade. Mas ainda há um novo perigo, uma nova ameaça. E então poderemos ver a formação de um novo tipo de sociedade, na qual a estratificação não ocorrerá de acordo com características biológicas - quem é mais forte ou mais alto, por exemplo. E não por parâmetros externos - riqueza, status, fama, posse de armas mais poderosas ou agressividade natural. Não, não é a ganância ou um desejo estúpido de superioridade sobre os outros que formará a nova ordem social; ela pode ser baseada na unificação de intelectuais ambiciosos e educados que decidiram se concentrar principalmente na auto-organização. O que resultará disto - Deus sabe. Vamos ver.
Em geral, uma certa simbiose entre homem e máquina em si não é boa nem má. E precisamos desenvolver a IA de todas as maneiras possíveis. Mas ainda assim, não devemos esquecer os riscos e o cenário negativo. Existe a possibilidade de um novo e surpreendente pesadelo na Idade da Pedra robótica.
Comentários
Postar um comentário
12