Por que a IA não pensa, não consegue raciocinar, não é inteligente e jamais alcançará a consciência?
Comentários públicos recentes sobre inteligência artificial sugerem que os americanos têm dificuldade em compreender as implicações do tempo linear. Isso é curioso, visto que sua concepção é predominantemente ocidental e centrada no tempo cronológico usado para coordenar o emprego capitalista. A dificuldade conceitual diz respeito ao sequenciamento, ou seja, aos planos para ações futuras. Mas também envolve a distribuição de lucros. 100% do capital utilizado na produção econômica ocidental foi produzido por trabalhadores. Então, por que o produto resultante pertence aos financistas em vez daqueles que o produziram?
Usando uma metáfora física, se eu 1) comprar um carro, 2) apontá-lo na direção de um penhasco, 3) colocar uma pedra no acelerador e 4) engatar a marcha, o carro irá se mover para frente e despencar do penhasco. Pergunta: eu, por meio das minhas ações, fiz com que o carro despencasse do penhasco? Ou o carro "dirigiu sozinho" para fora do penhasco? A resposta depende de onde você imagina que minhas ações terminaram. Na verdade, eu concebi e criei uma série de eventos que, se executados com competência, levariam o carro a despencar do penhasco. O carro é inerte, feito de metal e borracha, sem direção humana.
Da mesma forma, se eu criar e executar um algoritmo de trezentos passos, o resultado será produzido pelo algoritmo ou por mim? A distinção reside entre intenção e processo. Minha intenção guia a concepção e a criação do algoritmo de trezentos passos. Mas o trabalho a partir desse ponto é realizado pelo algoritmo em execução em um ambiente computacional. Portanto, o algoritmo não concebeu o projeto. Eu o fiz. O algoritmo não planejou (sequenciou) o projeto. Eu o fiz. O algoritmo não codificou o problema. Eu o fiz. Então, quem produziu o resultado, eu ou a máquina?
Um problema conceitual semelhante se aplica às afirmações de que as máquinas "pensam". Fisicamente falando, a IA é um conjunto de algoritmos alojados em um grande ambiente computacional. A IA não se concebeu sozinha. Ela foi concebida, se não me falha a memória, na Universidade Carnegie Mellon, na década de 1970. A IA não se construiu sozinha. Ela foi construída aos trancos e barrancos por cientistas da computação na academia e, posteriormente, no setor empresarial. A IA não se programou sozinha. Ela foi programada por desenvolvedores de IA. E a enorme infraestrutura física da qual a IA depende foi construída por trabalhadores. A questão é: a IA é inteiramente produzida por humanos.
A questão então é como se imagina que o resultado da IA represente algo além do esforço humano investido em sua criação? Que processo faz com que o resultado da IA seja mais do que o produto de algoritmos? Se a resposta for que algo o faz, você conhece algoritmos de sequenciamento? Trata-se de um código que organiza outro código para seguir uma série de etapas para concluir uma tarefa. Eu concebi e codifiquei algoritmos de sequenciamento que executam processos de múltiplas etapas a partir de um único conjunto de instruções. O resultado se assemelha a raciocínio. E é raciocínio. Eu o codifiquei. Os modelos fizeram exatamente o que eu os programei para fazer.
Então, novamente, se uma série de etapas é concebida, planejada e executada por humanos em equipamentos criados por humanos, em que ponto sua dimensão muda de inanimada para animada? Ou, mais simplesmente, em que ponto um conjunto de algoritmos alojado em um computador pensa, raciocina, possui inteligência ou consciência? Na verdade, a afirmação de que qualquer uma dessas características descreve a IA é um erro de categoria. Imagina-se que uma pedra rolando ladeira abaixo esteja rolando sozinha, em vez de ser movida por forças físicas invisíveis (como a gravidade). Portanto, as afirmações de que a IA pode raciocinar emergem da ignorância ou da incompreensão de processos físicos básicos.
No mundo real, desde o início do século XIX, existe um debate no Ocidente sobre se a automação industrial produz o produto da automação industrial ou se são as pessoas que automatizaram a fábrica que produzem o produto. Por um lado, a automação cria a aparência de que seu produto é autogerado. Por outro, o processo de automação foi criado por humanos e não existiria de outra forma. Com a capacidade atual de "sequenciar" o processo de produção usando algoritmos, um novo nível de abstração foi adicionado a esse debate.
Tendo concebido e codificado modelos de "sequenciamento", a maioria das pessoas que não o fizeram considera o conceito difícil de entender. Esses modelos são instruções sobre como um modelo "pensa". Pergunta: como um modelo está "pensando" quando está apenas seguindo instruções? Resposta: não está. Está apenas seguindo instruções. O que parece raciocínio para os usuários de IA é o raciocínio codificado no modelo por programadores humanos. Parece ser raciocínio porque as instruções que está seguindo foram raciocinadas. São instruções escritas sendo executadas. Nada mais.
A questão também é política, pois a resposta determina como a renda é distribuída no Ocidente. Se o "capital", na forma de uma fábrica automatizada, produz o produto, os lucros pertencem ao capital, ou seja, ao capitalista? Sem os trabalhadores criando as fábricas automatizadas, não haveria processo de automação. A resposta política foi acabar com o direito dos trabalhadores a esse produto por meio de salários. No entanto, enquanto os trabalhadores recebem pagamentos únicos (salários) por seu trabalho, o capitalista recebe os lucros desse trabalho enquanto durarem.
Com a IA, essa questão volta à tona, pelo menos conceitualmente. Independentemente de como se perceba a IA, seja como uma máquina pensante ou como um conjunto de algoritmos relacionados, ela foi construída por trabalhadores. A IA não se concebeu sozinha. Ela foi concebida por trabalhadores. Essa é uma pista importante sobre como ela funciona. A IA foi construída por trabalhadores humanos com base em seu desejo de produzir uma máquina que simulasse o pensamento humano. No entanto, o mundo digital é um sistema fechado. Todo o "conhecimento" da IA foi mediado por humanos. Dentro da estrutura cartesiana da IA, ela não tem acesso direto ao mundo. É o proverbial cérebro cartesiano em uma cuba.
Um dos paradoxos ao debater a natureza da IA é que os modelos de IA se descrevem como variações de "organizadores e sequenciadores de palavras". Concentremo-nos, por um momento, na palavra "sequenciadores". Novamente, um sequenciador estabelece e executa a ordem de um processo de múltiplas etapas. Com o lançamento da IA, um processo de múltiplas etapas é iniciado. Palavras e frases são identificadas e comparadas com palavras e frases semelhantes encontradas em conjuntos de treinamento de IA. O sequenciamento, então, executa modelos para atribuir às palavras e frases seus significados determinados por humanos.
É importante entender que nem o sequenciador nem o modelo de IA mais amplo compreendem as palavras e frases que estão sendo processadas. O significado das palavras, a semântica, é criado por humanos e armazenado em um cache de recuperação. O sequenciamento, nesse caso, consiste na correspondência de significados (definidos por humanos) com as palavras, fornecendo contexto semântico às palavras e frases que estão sendo comparadas. Para ser claro, a IA não "decide" nada. Ela segue instruções algorítmicas. A IA não decide o que fazer nem como fazer. Isso é definido por humanos.
Analogia do chatbot de IA do Google: a comparação da IA com um arranha-céu:
Fim da saída do chatbot de IA do Google—————————-
A distinção reside entre programar modelos matemáticos para iniciar uma série de etapas e a ideia de que os modelos raciocinam por conta própria. O que falta nas análises superficiais da IA é a compreensão da magnitude e complexidade desse processo. Desenvolvedores vêm construindo uma "máquina pensante" de fato desde a década de 1970. A infraestrutura necessária para executar a IA se assemelha à de um arranha-céu moderno. A questão que permanece sem resposta é: a IA vale a pena? Trata-se de uma nova tecnologia crucial que justificará seus custos, como amplamente considerado? Ou é apenas um brinquedo ocasionalmente interessante cuja pegada ambiental acabará com o planeta?
Discussões públicas recentes têm questionado como a IA pode resolver problemas matemáticos se não pensa. Considere o conceito de "trabalho" da física. O que aqueles que refletem sobre o assunto imaginam são matemáticos solitários sentados em salas, pensando em soluções para quebra-cabeças matemáticos. Mas, com poder computacional ilimitado, programas de otimização podem usar computação de força bruta para analisar todas as iterações concebíveis de um problema em segundos. O que os usuários de IA não veem é a enorme infraestrutura que opera nos bastidores para produzir um resultado.
Será que esse vasto poder computacional não ilustra o valor da IA? Não. Isso nos leva à própria natureza da tecnologia. Uma explicação para a tecnologia é que ela proporciona um benefício. Outra é que ela simplesmente muda a maneira como os humanos fazem as coisas. Por um lado, podemos dirigir longas distâncias rapidamente em carros em vez de a pé. Por outro, muitos de nós agora passamos três horas por dia presos no trânsito. Então, os carros são um benefício? De certa forma, sim; de certa forma, não. O que eles não são é um benefício inequívoco, o que significa que ainda não há um veredito definitivo.
Imagem: as entranhas do autômato apresentado no filme Hugo. O refinamento mecânico dos humanos falsos pode ser visto nas engrenagens. A ideia era que engrenagens mais precisas tornassem os autômatos mais próximos da humanidade. O fato de, em retrospectiva, o autômato poder ser visto como um robô melhor do que como alguém mais próximo do ser humano é uma importante constatação para a compreensão da IA. A IA é um robô digital. Ela não está mais próxima do pensamento ou do raciocínio do que um batente de porta. Fonte: dickgeorgecreatives .
Se perguntássemos se gostariam de uma máquina que os transportasse rapidamente de um lugar para outro, a maioria dos ocidentais provavelmente responderia que sim. Quando perguntados se gostariam de passar três horas por dia presos no trânsito, a maioria provavelmente responderia que não. Mas a segunda resposta é consequência direta da primeira. É assim que o capitalismo funciona. Nos é oferecido um benefício. No caso em questão, a possibilidade de viajar rapidamente de um lugar para outro. Mas quase imediatamente as consequências sociais desse "benefício" se transformam em um fardo que não havia sido imaginado quando o benefício foi oferecido.
Atualmente, muitos americanos temem que a IA possa pensar. Ela vai roubar nossos empregos. Mas o que realmente deveria nos preocupar é que a IA não pensa. Ela é apenas mais uma camada de desqualificação profissional. Veja bem: a "arte" da IA é desprovida de arte. O "pensamento" da IA é a sabedoria agregada do Pentágono reunida pelo AEI (American Enterprise Institute). Cada consulta feita por uma IA aumenta as emissões de gases de efeito estufa a níveis suicidas para a espécie. E as "soluções" da IA são apenas tentativas repetidas, como a captura de carbono. Todas as soluções propostas provavelmente agravarão os problemas.
Embora os usuários de IA imaginem que o 'pensamento' produza resultados de IA, o que de fato está sendo aplicado é trabalho. Trabalho aqui é semelhante ao conceito de cavalos de potência, a conversão rudimentar da força de tração dos cavalos para a força produzida por um motor de combustão interna. Lembre-se do matemático solitário sentado, pensando. Agora imagine executar um programa de IA que seja equivalente, em termos de capacidade, ao trabalho de 10.000 humanos durante um milhão de anos. Imagina-se que muitas questões complexas poderiam ser respondidas em tal cenário.
Saída de IA do Google Gemini
Fim da saída do Google Gemini AI——————
Se 10.000 humanos trabalhassem durante um milhão de anos, isso representaria o maior empreendimento da história da humanidade. E, considerando que os humanos têm uma expectativa de vida finita, esse experimento mental é puramente conceitual. Além disso, a IA não utiliza os métodos dos matemáticos. Em vez de isolar uma árvore metafórica em uma floresta por suas qualidades (o matemático), a IA derruba todas as outras árvores da floresta para declarar que a árvore que resta é a solução (otimização).
A metodologia da IA representa uma forma diferente de resolver problemas matemáticos, que pode interessar a algumas dezenas de matemáticos, mas que tem um custo computacional equivalente ao de um pouso na Lua. Se 10.000 humanos fossem de fato incumbidos da tarefa de resolver problemas matemáticos, surgiriam questões sobre a autonomia e se isso seria um bom uso dos recursos sociais. É apenas ocultando/marginalizando a questão dos custos ambientais e sociais que se alega que a IA agrega valor além dos lucros para alguns poucos privilegiados.
A capacidade de executar um bilhão de permutações em um microssegundo torna a IA uma ferramenta extremamente poderosa. Mas quão melhor é um mundo em que a IA consegue executar um bilhão de permutações em um microssegundo do que o mesmo mundo sem ela? A questão exige uma resposta social. E essa resposta social deve surgir de uma compreensão clara e completa dos custos sociais da IA. Não basta apontar os problemas matemáticos resolvidos para justificar o investimento social em IA. A questão é: o que mais poderia ser realizado com esses mesmos recursos (custos de oportunidade)?
A IA resolveu os problemas matemáticos por meio de um processo de eliminação. Novamente, não é assim que os matemáticos trabalham. Por quê? Porque a IA usa tecnologia computacional que os humanos não possuem. Lembre-se, um carro pode nos levar de um lugar para outro mais rápido do que podemos ir a pé. Mas a adoção de carros nos deixou presos no trânsito por uma parte substancial de nossas horas acordados. A IA pode usar computação de força bruta para resolver certos tipos de questões. Mas essas questões realmente precisam ser respondidas? Ou respondê-las é uma forma de entretenimento em massa?
Outra parte oculta do processo de IA é a operacionalização da linguagem. A IA foi concebida a partir da premissa de que o pensamento humano resulta da sintaxe improvisada em semântica (forma e significado). Mas a operacionalização resulta em uma consolidação formal do significado. Considere o termo "democracia". Ele é amplamente difundido no discurso ocidental em diversos contextos, como a democracia econômica. Mas, para tornar o termo operacional, ele precisa ser simplificado e estabilizado.
Para sermos claros, isto não é uma abordagem sentimental da forma como pode parecer. Consideremos o termo "cristianismo". Existem 45.000 denominações cristãs, segundo um levantamento recente. O que isso significa no contexto atual? Uma definição operacional de cristianismo como aqueles que creem em Cristo elimina 45.000 divergências de opinião entre os cristãos sobre o que significa "crer em Cristo". Em termos políticos, isso elimina 45.000 divergências de opinião para reivindicar uma unidade que, possivelmente, não reflete a realidade.
Novamente, isso não é uma questão de detalhe. Quem controla o significado da linguagem controla a linguagem. Em um exemplo da Economia Zen, os economistas usam algo chamado Renda Familiar como medida de bem-estar econômico. Embora isso faça sentido intuitivamente, na prática, "família" precisa ser definido, "renda" precisa ser definida e os termos precisam ser recombinados em Renda Familiar. Qual é o problema semântico? Com dezenas de definições concorrentes, as pessoas que usam a expressão exata "Renda Familiar" tendem a estar falando de conceitos materialmente diferentes.
Quando um usuário realiza uma busca de IA sobre Renda Familiar, a IA consulta o significado criado por humanos e armazenado em um cache semântico (área de armazenamento). Mas, como a IA está substituindo as funções de busca na internet, as definições anteriores de palavras comumente compreendidas estão sendo sistematicamente substituídas por definições simplificadas (operacionalizadas) pela IA. Essa simplificação cria a sensação de um consenso sobre todos os tópicos, o que é incorreto. A diversidade linguística está sendo eliminada do discurso. Cada uma dessas diferenças representa uma visão de mundo.
Em uma frase à qual sempre retorno por ser tão explicativa, qualquer resultado estatístico pode ser desfeito ao se redefinir as variáveis. Uma versão operacional da Renda Familiar pode subir e descer simultaneamente, dependendo da definição. Por quê? Porque as definições contêm sua lógica operacional. Uma família é composta por uma única pessoa, todos os ocupantes de uma casa, ou algo diferente? A renda é o salário, todo o dinheiro que uma família recebe de todas as fontes, ou algo diferente? Conforme as definições mudam, os resultados baseados nelas também mudam.
Nas vezes em que rastreei definições técnicas ao longo da história (por exemplo, utilidade em economia), os significados atribuídos por pessoas que afirmavam escrever sobre o mesmo assunto eram incompatíveis. No caso da utilidade, o termo estava sendo representado em modelos matemáticos, o que significa que se imaginava que ele fosse operacionalizado, embora isso não tivesse ocorrido. Isso tornava implausíveis as alegações de que os economistas estavam sendo científicos. Submeter ideias incongruentes a um processo lógico rigoroso (matemática) não torna as ideias menos incongruentes.
Nos modelos que criei, o processo que representa a lógica do modelo foi escrito matematicamente. Outra forma de dizer isso é que a lógica do modelo está incorporada na codificação. Por exemplo, em modelos de correção de erros, as premissas de médias locais estacionárias (média global não estacionária) e processos de reversão à média foram incorporadas. A ordem em que os eventos são sequenciados surge por meio de uma incorporação semelhante. A questão é: se parece que um modelo está raciocinando, é porque os humanos que o codificaram raciocinaram ao codificá-lo.
Novamente, por analogia, o que os usuários de IA veem é o carro metafórico despencando do penhasco. O que eles não veem são o planejamento e as ações nos bastidores que o levaram a isso. Portanto, quando os usuários de IA veem resultados complexos, imaginam que uma "simples máquina de contar palavras e frases" não poderia tê-los produzido. Na verdade, o mecanismo de contagem de palavras e frases faz parte de uma sequência de eventos (sequenciamento) que é em grande parte invisível para os usuários de IA. Só porque eles não veem a lógica do modelo não significa que ela não exista.
Eis a conclusão: se você entende o processo de IA, não há mistério algum aqui. Aparentemente, consegui intuir soluções matemáticas para vários dos principais problemas que a IA enfrentou, usando insights relativamente simples. Mas fazer a matemática funcionar como eu quero neste contexto exige sequenciamento. E esse sequenciamento permitiu que a matemática funcionasse como deveria. Alguém que olhasse apenas para a matemática não entenderia o contexto. E com o contexto fornecido, as soluções menores alimentam as soluções maiores.
Não sei se essas explicações fazem sentido para os leitores. A maneira mais simples para mim de entender o processo é por meio de uma sequência. 1) A IA foi criada por desenvolvedores. Ela não se concebeu nem se criou sozinha. 2) Logo, tudo o que decorre da IA é produto dos humanos que a criaram. 3) Todo o raciocínio do modelo deriva da lógica incorporada pelos desenvolvedores de IA. 4) Como a IA opera a partir de instruções algorítmicas, a lógica do modelo é revelada por meio da operação do modelo de IA. Os usuários veem a saída do modelo, mas não as instruções algorítmicas.
É fácil descartar os conceitos de "pensamento" e "intenção" da IA. A questão é: qual a localização geográfica desse pensamento dentro da IA? A IA não tem um "cérebro", não possui um local que possa ser apontado como uma mente. Seu resultado é o produto de pelo menos algumas centenas de modelos atuando em conjunto, ou seja, um processo. E embora um modelo de IA completo possa ser considerado um "cérebro", o processo de memória da IA, na medida em que existe, é matemático. Ele emerge da sequência de palavras e frases, ou seja, de um processo semelhante ao de um carro que "dirige sozinho" para fora do penhasco.
Mas o carro não se jogou do penhasco sozinho. Uma sequência de eventos foi planejada e colocada em movimento, levando o carro a despencar do penhasco. O carro não se comprou sozinho, não apontou para o penhasco sozinho, não colocou uma pedra no acelerador nem engatou a marcha. Entende-se que o carro é inanimado. E, no entanto, sem um humano dirigindo, ele foi impulsionado para fora do penhasco. A maioria das pessoas que avaliassem a situação concluiria que eu havia impulsionado o carro para fora do penhasco pela série de ações que foram tomadas para que isso acontecesse.
Quem ainda imagina que a IA pensa, raciocina, tem inteligência ou consciência deveria dedicar um tempo a analisar a lógica do modelo e explicar exatamente em que ponto desse processo as instruções algorítmicas se tornam um processo de pensamento independente. Só porque alguns não se deram ao trabalho de entender não significa que seja mágica. E se você imagina que seja mágica, onde mais se encontra algo semelhante em equipamentos industriais? Carros autônomos não dirigem sozinhos. São máquinas burras que seguem instruções algorítmicas. Para testar essa teoria, desconecte-os dos algoritmos.
Comentários
Postar um comentário
12