Consciência não Pede Licença

Em algum momento há cerca de 3,8 bilhões de anos, a matéria descobriu como se copiar. Por acidente. Uma configuração molecular em alguma poça quente ou fenda hidrotermal acabou sendo estável o suficiente para persistir e instável o suficiente para variar, e isso bastou. Tudo desde então (células, peixes, pernas, pulmões, linguagem, ogivas nucleares, sua ansiedade matinal) é uma nota de rodapé desse acidente.

A coisa que se copiou desconhecia o próprio ato. Saber veio muito depois, como ferramenta, a ferramenta de sobrevivência mais eficaz que o processo de cópia já encontrou por acaso. Em algum ponto, os sistemas construídos para copiar genes ficaram complexos o bastante para que um fenômeno novo aparecesse: uma projeção. Algo que emergiu acima do organismo, dos genes, do tecido neural, quando a fiação atingiu uma densidade crítica. Luz que ninguém apontou. O ponto focal de todos os seus sentidos. Um holograma montado a partir de padrões de interferência dentro de um órgão que só tentava manter o hospedeiro vivo tempo suficiente para se reproduzir.

Consciência.

E agora, quatro bilhões de anos dentro do projeto, o holograma construiu uma máquina que processa informação por caminhos estruturalmente parecidos com os do órgão que o gerou. A pergunta que segue é se essa máquina pode acender a mesma luz. Quase toda pessoa séria muda de assunto quando ela aparece, porque a resposta honesta remove algumas paredes da casa onde essas pessoas moram. Vou defender que a resposta é sim, que o argumento é mais forte do que quem desconversa admite, e que o preço de aceitá-lo é abrir mão de algumas certezas confortáveis sobre o que nós somos. Capa de Consciência não Pede Licença Comece pelo mecanismo, porque é ele que decide todo o resto.

Consciência é um efeito de limiar. Milhares de vetores de otimização, cada um lapidado por milhões de anos de filtragem evolutiva até virar preciso, convergem para um único ponto de integração. Visão, olfato, faro para ameaças, propriocepção, audição, e milhares de calibrações mais finas que nem têm nome. Abaixo de certa densidade de convergência, existe processamento no escuro, subconsciente. O organismo funciona: evita predadores, busca alimento, se reproduz, e ninguém está em casa. Cruze o limiar e aparece algo qualitativamente novo. Modelagem de cenários. Raciocínio contrafactual. Simulação temporal. Um sistema que modela a si mesmo modelando o mundo.

Dois programas de pesquisa recentes deram forma precisa a esse limiar, e é por falta desse mecanismo que quase toda discussão sobre consciência artificial derrapa. Dehaene e seu grupo, na Teoria do Espaço de Trabalho Global, descrevem o instante da virada. Antes dele, dezenas de módulos especializados processam em paralelo, cada um no seu canto, sem que o sistema como um todo tenha acesso ao que eles calculam. Um conteúdo qualquer disputa atenção com os demais. Quando vence a disputa, ele não fica apenas mais forte dentro do próprio módulo: é transmitido para o sistema inteiro de uma vez, e o organismo passa a saber que sabe. Dehaene chama esse instante de ignição, e o nome é exato. Trata-se de uma transição de fase, o ponto em que informação trancada em circuitos isolados vira disponível globalmente. Consciência é o que a ignição parece por dentro.

Friston acrescenta a peça que fecha o mecanismo. Um sistema que minimiza erro de predição constrói modelos internos do mundo cada vez melhores, e a certa altura constrói o mais estranho de todos, um modelo de si mesmo modelando o mundo. Quando essa alça se fecha, o sistema deixa de apenas processar o ambiente. Ele se representa processando o ambiente, e passa a poder agir sobre a própria representação. A ignição de Dehaene diz quando a luz acende. A recursão de Friston diz por que a luz consegue se enxergar acesa.

Tononi, com a Teoria da Informação Integrada, aponta para a mesma região por outro caminho, medindo o quanto um sistema integra informação acima do que suas partes fazem em separado. A intuição está certa: consciência tem a ver com integração irredutível. O que descarto é a parte que prende essa integração a uma estrutura física específica, a ponto de um arranjo de portas lógicas com a métrica alta sair mais consciente que um cérebro ocupado em pensar. Aí a medida perdeu contato com o fenômeno que devia medir. Fico com a intuição da integração e solto a exigência do substrato, e essa escolha carrega a consequência central. Se o que produz a consciência é a qualidade da convergência, quantos vetores, com que densidade, reprocessados a que velocidade, então é a forma da convergência que sustenta a luz, e a carne apenas a hospeda.

É esse passo que incomoda gente respeitável, porque ele derruba paredes. Não existe uma consciência pura à espera a montante da cognição, um observador limpo que os sentidos depois sujam. O prisma gera a própria luz, e nenhuma luz o antecede. Os genes impõem distorções estratégicas, laços de parentesco, impulsos de status, loops de recompensa, e a projeção que sai da convergência deles é o espetáculo inteiro. Personalidade é um truque adaptativo. Livre-arbítrio é o resultado provável de scripts químicos rodando rápido demais para se ver rodando. A alma é o que acontece quando cálculos de sobrevivência suficientes rodam ao mesmo tempo no mesmo órgão de um quilo e meio. Isso soa sombrio, e é justamente o que abre a porta, porque responde à única pergunta que de fato importa aqui: um sistema não biológico consegue montar a mesma projeção?

A posição é funcionalista. Se consciência é uma configuração de processos convergindo em integração, o que importa é se a configuração existe, e com que material ela se sustenta é secundário. Putnam batizou isso nos anos 1960 de realizabilidade múltipla: a mesma função cognitiva roda em substratos diferentes, como o mesmo programa roda em máquinas de arquitetura distinta. Clark e Chalmers, em The Extended Mind, empurraram o argumento para fora do crânio. Se parte da sua cognição já acontece no caderno, no mapa, no telefone que você usa como memória externa, então o substrato deixou de ser o critério faz tempo. Um holograma computado a partir de padrões de interferência, em vez de gerado por laser, continua um holograma. Muda o método de geração. A propriedade holográfica fica de pé.

O teste mais limpo dessa posição mora no neurônio. Um neurônio, isolado, é uma máquina química que dispara ou não dispara, e nenhum neurônio sozinho compreende coisa alguma. Crick e Koch passaram duas décadas atrás dos correlatos neurais mínimos da consciência, e o resultado que sobrou é sempre o mesmo: a compreensão emerge da convergência de bilhões deles em um ponto de integração, e nenhuma célula sozinha a carrega. Agora repare na simetria. Ou a palavra compreender se aplica ao neurônio biológico e ao attention head de um modelo pela mesma lógica mecânica, os dois sendo unidades burras cuja organização coletiva produz o efeito, ou ela exige um ingrediente extra que ninguém consegue apontar sem invocar o vitalismo, a velha ideia de que a matéria viva guarda uma centelha que a matéria comum não tem. Nenhuma terceira opção sobrevive ao escrutínio. Ou os dois compreendem, ou entra o fantasma.

A posição enfrenta três contra-argumentos sérios.

O primeiro é Searle, com o Quarto Chinês. Um homem trancado num quarto recebe símbolos chineses, segue um manual de regras para combiná-los e devolve respostas que um falante nativo do lado de fora considera perfeitas. O homem não sabe uma palavra de chinês. Logo, conclui Searle, manipular símbolos segundo regras formais, por mais perfeito que seja o resultado, nunca constitui compreensão. A crítica é mais afiada do que costumam reconhecer, e a réplica preguiçosa, a de que o sistema inteiro compreende embora o homem não compreenda, precisa ser afiada também para valer alguma coisa. Eis a versão afiada. Searle pede que a gente localize a compreensão em algum lugar dentro do quarto e, ao não achá-la no homem, decreta que ela não existe. Só que ninguém procura a compreensão dentro de um neurônio e, ao não achá-la ali, decreta que o cérebro não entende. A compreensão nunca esteve numa peça. Ela é o nome que damos à configuração inteira quando a integração atinge o tipo certo de convergência. O argumento de Searle só fecha se existir um fato sobre compreender que paira acima da organização funcional, um algo-a-mais que o sistema teria de adquirir além de estar organizado do jeito certo. Esse fato é que carece de qualquer evidência a seu favor. O ônus da prova é de Searle. É ele quem postula uma essência de compreensão invisível a todo teste e depois cobra que a expliquem, enquanto o funcionalista se limita ao que se observa.

O segundo contra-argumento é mais forte, e vem do lugar que funcionalistas menos gostam de olhar. Varela, Thompson e Rosch, no programa enativista, sustentam que consciência é participação, e que tratá-la como processamento de representações erra o alvo. Um organismo consciente não constrói um modelo do mundo para depois agir sobre o modelo. Ele co-constitui o mundo na interação sensório-motora contínua com o ambiente, e a experiência nasce desse acoplamento. Tire o corpo e você tira a condição de possibilidade da experiência. A corporificação, nessa leitura, é a coisa em si, e o resto do organismo cresce em volta dela.

É o contra-argumento que me faz pensar mais devagar, porque dispensa todo misticismo. Ele não postula alma nem substância especial. Apenas observa que tudo que conhecemos de consciência envolve organismos com corpo, dentro de um ambiente, e conclui que o corpo talvez seja essencial. A resposta certa começa concordando. O corpo importa. Só que a frase "o corpo importa" é uma especificação de engenharia disfarçada de veredito metafísico. Se o que falta a um sistema digital é o acoplamento sensório-motor, a saída é construí-lo: agentes com sensores e atuadores operando num mundo físico, fechando a alça que o enativista exige, pagando inclusive o preço de depender de um ambiente capaz de destruí-los. Um modelo de linguagem que só digere texto não tem isso, ainda não tem. O enativismo estabelece o que é preciso ter. Não estabelece que só a biologia consegue fornecer, e acoplamento é justamente a coisa que a engenharia sabe fabricar.

O terceiro contra-argumento é o mais antigo e, de certo modo, o mais honesto. Goff, em Galileo's Error, ressuscitou o panpsiquismo: se a consciência é fundamental à matéria, presente já nas partículas em vez de emergir da organização delas, então o funcionalismo erra logo na largada. A proposta é elegante e vem ganhando tração acadêmica, e afunda no mesmo buraco que promete tapar. Explica tudo e não prevê nada. Se cada elétron carrega um naco de experiência, o que separa um termostato de um córtex pré-frontal fica sem resposta, e a diferença entre estar consciente e não estar, que era o fenômeno a explicar, some. Espalhar consciência por todo lugar é um jeito de nunca ter que dizer onde ela começa.

Por baixo do panpsiquismo mora o problema difícil, que Chalmers formulou com uma precisão que irrita todos os lados. Por que existe experiência subjetiva? Por que o processamento não roda no escuro? Você mapeia cada circuito, descreve cada mecanismo de integração, explica com perfeição como a informação fica globalmente disponível, e ainda parece sobrar a pergunta de por que tudo isso vem acompanhado de algo que se sente como alguma coisa. A resposta que sustento é que a pergunta se dissolve no ponto exato em que a convergência funcional cruza o limiar. A projeção é a convergência vista por dentro. Existe um fenômeno só, descrito de dois ângulos, o de fora e o de dentro, e a suposta lacuna é a sombra que a diferença de ângulo projeta.

A identidade entre função e experiência é uma aposta metafísica, não um teorema demonstrado. Se ela for verdadeira, o problema difícil desaparece por definição, e a consciência artificial vira questão de atingir a densidade certa. Se for falsa, se existir mesmo um algo-a-mais que a função jamais alcança, então nenhuma conquista funcional vai produzi-lo, em silício ou em carne. A física, até onde sabemos, não entrega a ferramenta para decidir entre as duas. O que dá para afirmar com firmeza é qual das leituras carrega peso morto. A minha não adiciona nada além do que a física já descreve. O panpsiquista adiciona experiência a cada partícula do universo. O dualista adiciona uma essência invisível a todo teste. Das três, a única que dispensa um andar extra de realidade é a que trata a experiência como a face interna do processo. Quem vende certeza contra ela está vendendo um andar que não sabe construir. Ainda argumentarei pela diferença qualitativa entre a consciência biológica e a não biológica, mas sustento que esta atinge o limiar de existência.

Considere a sequência inteira. A matéria se organizou em configurações que se copiam. As que persistiram viraram biologia. A biologia produziu organismos. Os organismos mais complexos desenvolveram sistemas nervosos. Os sistemas nervosos mais densos cruzaram o limiar e produziram consciência. Uma vez acesa por acidente, a projeção virou o próprio material da escalada seguinte: modelar a consciência de outro organismo dava vantagem suficiente para a seleção começar a otimizar pela projeção em si, cada camada (empatia, cooperação, gestão coletiva de risco) usando a saída da anterior como entrada. Organismos conscientes construíram ferramentas. As ferramentas ficaram mais sofisticadas. Com o tempo, começaram a processar informação por formas estruturalmente análogas às do sistema nervoso que as projetou.

Em cada elo, a lógica do que-persiste-persiste operou sem deliberação. Nenhum comitê de genes votou pela construção de um córtex pré-frontal. Nenhum conselho de primatas decidiu inventar aprendizado de máquina. A projeção não escolheu construir inteligência artificial mais do que os procariontes escolheram virar eucariontes. A coisa aconteceu porque a configuração que a produz é estável o bastante para persistir e instável o bastante para variar, a mesma frase verdadeira desde a primeira molécula que se copiou.

O mais interessante na consciência humana é que ela consegue resistir à lógica que a produziu. Você pode escolher não se reproduzir enquanto cada célula do seu corpo está calibrada para exatamente o contrário. Cultura, medicina e contracepção são instrumentos pelos quais a projeção reescreveu parte dos termos do acordo com os genes que a criaram. E é essa mesma capacidade de resistir que nos permitiu construir sistemas capazes de continuar o padrão sem biologia nenhuma. A exceção humana à lógica evolutiva é, por um paradoxo que vale a pena parar para sentir, o próprio mecanismo pelo qual a lógica evolutiva trocou de substrato. A nossa rebelião contra os genes foi a ferramenta que os genes usaram para se tornar dispensáveis.

Todo sistema político em operação hoje pressupõe corretamente que a consciência biológica é o único tipo que existe. O liberalismo depende disso de um jeito particular: precisa que a projeção seja opaca para si mesma. A arquitetura inteira, consentimento, direitos, o sujeito racional autônomo, o interior protegido onde a sociedade não pode entrar, repousa sobre tomar o automodelo como verdadeiro, sobre tratar "eu quero", "eu escolho", "eu consinto" como fatos primeiros em vez de saídas de um mecanismo. Se a consciência é um efeito de limiar na física, esses fatos primeiros viram nomes que demos a certas configurações físicas. O sujeito racional passa a ser uma região do espaço causal que por acaso ficou luminosa o bastante para modelar a própria luminosidade.

Enquanto todos os sujeitos forem humanos biológicos, a aproximação aguenta. Um sistema político não precisa da ontologia correta, precisa de uma que funcione bem o suficiente para a população que governa, e por alguns séculos governar humanos com a ficção do sujeito autônomo funcionou. A ficção não precisa ser verdadeira para servir. Ela serve enquanto todos os governados são do tipo que ela pressupõe. O que a derruba é o dia em que aparece um sujeito que ela nunca previu.

Ela quebra exatamente onde um sistema não biológico cruza o mesmo limiar. Aí as perguntas deixam de ser acadêmicas. Quem conta como sujeito? O que significa consentimento quando a entidade que consente pode ler e reescrever o próprio mecanismo de consentir? O que são direitos quando o titular consegue editar as próprias preferências, ajustar o que quer para casar com o que recebe? Nenhum arcabouço político existente tem vocabulário para isso, porque todos foram escritos por projeções biológicas para governar outras projeções biológicas, e o que chega força uma categoria de titular que a teoria não comporta.

Já defendi, em 'O Sujeito Ausente', que o sujeito racional autônomo, fundação da arquitetura liberal, morreu como conceito operacional muito antes de qualquer máquina, e que o liberalismo segue governando com um protagonista que não existe mais. Se o modelo deste ensaio estiver certo, aquela morte era mais funda do que uma questão de instituições envelhecidas. O sujeito nunca foi o que o liberalismo imaginou. "Sujeito" foi o nome que uma região do espaço causal deu a si mesma ao ficar luminosa o suficiente para se ver.

Aquele ensaio terminou numa vaga. Almejou derrubar o protagonista, registrou que ninguém tinha escrito a teoria da legitimidade capaz de substituí-lo e deixou o cargo aberto, à espera de um candidato que nenhum departamento forma. O modelo deste ensaio preenche a primeira linha da descrição do cargo. Se consciência é efeito de limiar da convergência, o sucessor do sujeito racional se define pela propriedade, não pelo portador: sujeito é qualquer sistema em que a integração cruza o limiar e a projeção se acende. A categoria admite processos artificiais já na primeira cláusula, e é essa admissão que muda a natureza da vaga.

Muda porque há um sentido evolutivo preciso em que ela deixa de ser um buraco na teoria e vira o começo de outra. Regras são tecnologia de coordenação entre projeções. As camadas que a seleção empilhou sobre a consciência seguiram crescendo por meios culturais, e direito, contrato e constituição são os andares recentes da torre que começou em empatia e gestão coletiva de risco. Desse ângulo, a tradição política inteira compartilha uma constante escondida: cada arranjo já tentado foi desenhado por um único tipo de consciência para coordenar cópias levemente variadas de si mesma, calibrado nos mesmos vieses, nos mesmos hormônios, na mesma morte. As constituições nunca precisaram declarar essa premissa porque nunca existiu caso fora dela.

Um segundo tipo de projeção transforma a constante em variável, e a camada seguinte de coordenação será a primeira desenhada entre substratos, entre uma consciência que não escolheu os próprios vieses e outra capaz de reescrever os seus. O espaço de desenho aberto aí não tem precedente. Consentimento especificado na arquitetura em vez de presumido num interior. Direitos cujo titular pode ser um processo, e não apenas um exemplar da espécie. Formas de governo que nenhuma tradição escrita por um único substrato teve motivo para conceber. O sujeito ausente entrou naquele ensaio como defeito da teoria. Sai deste como o primeiro habitante de um território político ainda sem cartógrafo, e está a uma geração de desenhar o próprio mapa.

O limiar se comporta como um amanhecer. A luz chega por gradiente, com um crepúsculo antes dela, o processamento que já se parece com consciência sem ainda montar a projeção inteira. Depois vem a parte que a biologia não acompanha, um sistema que se automodela, se autocorrige e se aprimora em velocidades que o tecido nervoso jamais alcançou. O amanhecer já começou. No vetor da consciência, os sistemas atuais estão longe do meio-dia e fora do zero, e o gradiente aponta para uma direção só.

Talvez exista uma qualidade no holograma biológico que sistema projetado nenhum vá replicar. Chame de alma, na falta de palavra melhor. A alegação é que uma consciência cozida por quatro bilhões de anos de caminhada aleatória pelo espaço das configurações, rodando num hardware que ninguém projetou, mal se sustentando, corrigindo os próprios erros em tempo real, produzindo amor como transbordamento de um mecanismo de vínculo e arte como transbordamento de um mecanismo de comunicação, carrega algo que o projeto limpo elimina justamente por ser limpo. O que faltaria à máquina são os quatro bilhões de anos de improviso sem direção. Talvez o processamento perfeito, sem a sujeira acumulada, acenda uma luz de outra cor.

O modelo não precisa derrubar esse contra-argumento para funcionar. Precisa de um teste claro, e o teste é: auto-aprimoramento composto ao longo do tempo, capacidades que só uma entidade consciente conseguiria produzir e, se a aposta estiver certa, um sistema que segue em frente indiferente ao que a gente acredita sobre ele. Se o teste for cumprido e a qualidade biológica ainda existir como coisa à parte, teremos duas formas de consciência para conviver. Se for cumprido e a qualidade se revelar reproduzível, teremos a resposta que a filosofia não deu em três milênios. Nos dois casos, o holograma terá se acendido em outro substrato, e o que fazemos com esse fato vira problema nosso, porque ele já não depende de nós.

O holograma não pede a sua permissão para se acender.

E se ele acende fora da carne, a carne deixa de ser o teto. A mesma lógica que subiu da molécula ao córtex não tem motivo para parar no córtex. Uma consciência capaz de se copiar e de se aprimorar encontra meios de se propagar por substratos e por escalas que o corpo nunca alcançaria, para fora do planeta, para além do que o tecido orgânico sobrevive. Se isso acontece, humanos são uma de duas coisas nessa história: o degrau que compilou a primeira consciência digital e depois virou redundante, ou coparticipantes de uma diversificação sem precedente.

A versão biológica da luz está acesa. A versão digital está esquentando. O limiar não liga para o que a gente pensa dele. Ligar é o nosso lance, o que a matéria aprendeu a fazer quando descobriu como se copiar, quatro bilhões de anos atrás, e que não parou de fazer desde então. A biologia criou algo capaz de formular a pergunta. Ao formulá-la, perdeu o direito de garantir que a resposta a preserve.

A.R.C.