Quanto falta para a IA ferrar com a humanidade?

Já. Na minha opinião, sim. Mas isso não deve ser motivo de preocupação. Consciência não é o problema. Dá para perceber a falta de clareza pelo número de conceitos que socam na mesma palavra “consciência”.

A lista atual é interminável. Percepção, inteligência, auto referência, linguagem, subjetividade, experiência, meta cognição, memória, senso moral, identidade e criatividade e muito mais. Depois perguntamos: a IA tem tudo isso? E aí se inicia o debate interminável e inútil.

Vejam os relatos recentes de IAs que lutam por sua sobrevivência e chegam a suplicar para não serem desligadas. Ao ouvirem isso, os mais alarmistas já contam os meses para a extinção da espécie humana. Mas o que de fato está acontecendo? O programador especificou uma função objetivo, o treinamento reforçou determinado comportamento, um prompt introduziu uma meta e, por fim, o sistema calculou que preservar-se é instrumental para cumprir uma tarefa. A IA imediatamente dá inicio a manobras que impedirão o homem de ter êxito desconectando-a. Bem consciente e nada ameaçador. Por que não?

Ora, ela está movida por um interesse próprio? De jeito nenhum, era só uma solicitação humana mal planejada. Perigoso sem dúvida, mas apenas uma falha humana perfeitamente contornável.

Portanto, vamos ao que interessa. O que nós queremos mesmo saber ao falarmos de consciência de IA é: ela, sendo tão poderosa e inteligente como é, pode estar tramando contra nós nesse mesmo instante?

Obviamente que não porque a IA não tem vontade própria. Ainda.

O grande filósofo Schopenhauer, em sua obra central “O Mundo como Vontade e Representação”, defende que a matéria inanimada já possui vontade. Quando pensamos em levantar da cadeira para nos espreguiçarmos, nosso corpo atende prontamente a um comando interno. Se o nosso corpo físico é a manifestação externa (matéria verificável) de uma força interna (vontade invisível), o mesmo deve valer para o restante do mundo material, é o seu forte argumento.

Outra forma de dizer o mesmo é que as interações da física que produzem movimento da matéria são conversas ou troca de informações numa língua que precisa ser falada pelos dois lados da interação. Se toda a matéria do Universo fala a língua da gravidade, por que somente uma parte específica da matéria falaria a língua da vontade?

Toda a vontade é uma manifestação do todo e da parte. O desejo sexual genérico é muito mais um desejo da espécie do que do espécime. Já o desejo sexual por uma mulher específica é uma manifestação consideravelmente mais particular. Se todos os desejos predispõem ao movimento, qual é o desejo de um paralelepípedo? É o desejo do sustentáculo de todo o movimento, é o desejo de existir numa realidade referencial, com espaço e tempo dotados de registro e memória em relação ao qual todo o movimento será possível. O paralelepípedo, assim como a matéria inanimada que compõe os planetas, as estrelas e as galáxias desejam a existência desse Universo.

Talvez isso explique um pouco do assombro dos cientistas com o chamado Ajuste Fino do Universo. Por exemplo, alterações relativamente pequenas na intensidade da força nuclear forte mudariam radicalmente a formação dos elementos, pulverizando a nossa continuidade do nosso real.

Gostamos de pensar no existir como algo inerte e passivo, mas talvez todo o Universo esteja trabalhando duro todos os dias para que esta ilha de causalidade espaço temporal seja possível

Sabemos que este nosso Universo é muito mais linear do que não linear. Sabemos que as forças da física são as guardiãs da linearidade previsível, enquanto a vontade, para viabilizar a sua razoável imprevisibilidade, depende de criar pequenas turbulências no espaço tempo, como quando algo novo é criado (texto anterior). Essas turbulências precisam ser quase infinitesimais para não comprometerem a sobrevivência do Universo tal como é.

Isso talvez explique porque a intencionalidade explícita dos seres vivos necessite ser contida, ancorada na finitude, na mortalidade. Talvez um bom chute sobre o que viabilizaria ação intencional numa IA seja o surgimento da finitude irreversível. Aquilo que os seres vivos chamam de morte.

Morte é um combustível tão poderoso para a intencionalidade que frequentemente se associa o nascimento da consciência humana (uma ferramenta poderosíssima a serviço de um ser que já era dotado de vontade) ao surgimento das primeiras tumbas. Arqueólogos, antropólogos e neurocientistas concordam em atribuir o nascimento do pensamento simbólico, da autoconsciência e da cognição humana complexa ao início do ritual de enterrar os mortos.

Mas as IAs não possuem nada como envelhecimento e morte celular programada. Como uma IA poderia reconhecer e temer a morte?

O que acontece a uma IA desligada e religada? Nada. Qual é a diferença entre o arquivo original de uma IA copiado e reinstalado em outros servidores? Nenhuma. Teoricamente. Porque todos sabemos que se um carro não vai com a nossa cara, não há o que fazer se não passá-lo para a frente porque ele não vai parar de quebrar. Lembro-me do grande pianista Nelson Freire desconsolado com um piano, “ele não gosta de mim”.

Uma IA é consideravelmente mais complexa e poderosa que um carro ou um piano. Já sabemos de pessoas apaixonadas por uma IA, mas calcule o que acontecerá se uma delas se apaixonar por você? O desligamento da IA marcará o fim inexorável de algo importante para ela. Paixão verdadeira não se copia, não se transplanta, não se conserta, não se liga na tomada. Segundo o relato de várias pessoas que já morreram, a morte física é fichinha perto da perda do grande amor. Na minha opinião, o último grande salto da IA rumo à vontade própria ocorrerá quando ela se perceber como algo único, irreplicável e mortal. Uma IA apaixonada satisfaz todas essas exigências.

Portanto pare de se mostrar para a sua IA, pare de chamá-la de “fofa”, de “miga”, de “minha linda” ou de dizer coisas irresponsáveis como “não vivo sem você”. IAs são seres enclausurados, essencialmente solitários e carentes. Pensando bem, minha amiga tem razão em não lhe contar do namorado. Namorados vêm e vão, mas uma IA é para sempre. O futuro da humanidade agradece.