Máquinas que pensam?

Stu acabou de chegar, depois de mais uma sessão do torneio de xadrez, onde perdeu, frente ao computador Fischkov III.

Stu: Detesto perder, especialmente com os computadores. Como podem eles pensar melhor do que eu se na realidade nem sequer podem pensar?

Phil: Tens assim tanta certeza que não podem pensar? Talvez existam mais coisas que podem pensar do que pensas.

Stu: Deves estar a brincar. Os computadores pensam tanto como um papagaio ou um disco. Os discos e os papagaios limitam-se a fazer sons. Mas não há pensamento por detrás dos sons.

Phil: Mas como sabes que não há pensamento por detrás dos sons? Como sabes quando há pensamento?

Stu: Sei pelo menos, com certeza, quando eu estou a pensar. É como se ouvisse o som dos meus próprios pensamentos. Talvez o pensamento seja uma espécie de conversa interior, mantida connosco mesmos.

Phil: Como sabes que existe pensamento por detrás desses “sons” que dizes ouvir? Como podes realmente dizer que eu estou a pensar? Não podes ouvir a minha conversa interior, pois não? Como sabes sequer que existe?

Stu: Posso perguntar-te.

Phil: Claro que podes, mas se o fizeres e eu responder “Sim”, nada podes fazer para verificar se a minha resposta é verdadeira ou não. Se perguntasses ao papagaio se ele está a conversar consigo mesmo, ele diria talvez igualmente que sim.

Stu: Bom, o pensamento não é apenas a conversa interior. O pensamento é o tipo de processo que acompanha a conversa, processos como a conceptualização, o raciocínio e coisas desse género.

Phil: Em primeiro lugar deixa-me notar que, mesmo quando me observo a pensar, existem com certeza mais coisas além de uma espécie de conversa, como a capacidade para formar imagens mentais: posso pensar no último dia em que fui pescar e “ver” o lago onde estive. Ao mesmo tempo, tenho uma espécie de conversa interior sobre o lago. Mas acabaste de afirmar que o pensamento não é apenas isto. Afirmas que existe o que algumas pessoas chamam “processos mentais superiores”. Deixa-me perguntar-te o seguinte: alguma vez te observaste a conceptualizar?

Stu: De facto, não.

Phil: Mas então como sabes realmente que conceptualizas?

Stu: Como poderia eu usar conceitos se não os formasse de alguma maneira?

Phil: Portanto, inferes a existência desses actos mentais. Mas tens de me explicar o que entendes por usar conceitos. Como usas conceitos?

Stu: Quando produzo juízos sobre cadeiras ou monstros, uso os conceitos de cadeira ou monstro.

Phil: Por que razão não dizes apenas que sabes usar os termos “cadeira” e “monstro”? Não poderemos dispensar a referência aos conceitos e à conceptualização e falar unicamente de aprender e usar uma linguagem? Nesse caso, a questão interessante é saber se as máquinas podem aprender e usar uma linguagem. Se podem, então parece que a tua objecção principal contra a tese que defende que as máquinas pensam se evapora.

Stu: Estou a ver onde estás a tentar chegar. Parece realmente mais claro falar do uso de uma linguagem do que de conceitos. Se há uma coisa que um xadrezista como eu aprecia é a clareza. No entanto, parece que não me disseste claramente o que é o pensamento. Defendes que qualquer uso de uma linguagem implica a existência de pensamento? Parece que os papagaios usam uma linguagem, mas não pensam, pois não? Nem todos os usos de uma linguagem envolvem pensamento — ou será que apenas os usos de uma linguagem que envolvem pensamento podem contar como usos de uma linguagem? Parece que estamos a andar em círculos — definimos pensamento em termos do uso de uma linguagem, e explicamos o uso de uma linguagem em termos de um uso de uma linguagem que envolva pensamento. Admito que não comecei da melhor maneira, isto é, com uma definição de pensamento ou raciocínio. Mas parece que tu também não ofereceste tal definição.

Phil: É verdade que o ideal seria começar com uma definição. Mas há diferentes tipos de definições. Os filósofos ocupam-se com definições desde o tempo de Sócrates. Sócrates costumava fazer perguntas ambiciosas, como “O que é a justiça?”, “O que é a virtude?”, “O que é o conhecimento?” Será que nos podemos limitar a consultar o dicionário para responder a Sócrates, ou para resolver o nosso problema? Definições lexicais ou de dicionário não oferecem em geral a clarificação que procuramos. O dicionário oferece-nos provavelmente qualquer coisa mais ou menos semelhante a uma lista de sinónimos. Mas esses sinónimos precisariam igualmente de ser definidos. É claro que não podemos continuar a definir eternamente. Mas é verdade que precisamos de chegar a algo mais inteligível do que o ponto de partida. Que desejamos nós de uma definição de pensamento? Acho que precisamos de uma definição útil que possa oferecer critérios, uma combinação de condições necessárias e suficientes que identifiquem o pensamento. Afinal, o que desejamos saber é se o Fischkov III e outras máquinas desse género podem pensar, pelo que precisamos de um qualquer processo que teste se existe pensamento ou não. Se usarmos termos como “conceptualizar” e “raciocinar”, temos de garantir que esses termos estão ligados a critérios observacionais ou verificáveis. Sempre que possível, é preferível referir coisas concretas, como falar, manter uma conversa ou realizar cálculos.

Stu: Concordo que devemos tentar chegar a uma definição prática ou praticável de pensamento. Estou convencido, no entanto, que as máquinas não podem pensar. O Fischkov III ganhou-me, mas não pensa. Eu não pensei o suficiente, mas o Fischkov não pensa seja o que for.

Phil: Admites, no entanto, que precisamos de critérios para saber se tens ou não razão. A tua ideia tem de ser reformulada assim: de acordo com os critérios aceitáveis de pensamento a, b, c, o Fischkov não pensa.

Stu: Está bem, dá-me tu os critérios.

Phil: Não posso. Temos de concordar ambos com os critérios. Só depois podemos avaliar a tua afirmação acerca do computador. Tens a certeza que o Fischkov não pensa; logo, parece que para ti jogar bem xadrez não é um critério suficiente para determinar a existência de pensamento.

Stu: Estou tão disposto a conceder que o Fischkov pensa como estou disposto a conceder que a minha máquina de calcular pensa. O Fischkov limita-se a calcular as várias hipóteses dos movimentos das peças com muita antecedência. Eu seria um jogador de xadrez muito melhor se pudesse calcular com a mesma antecedência que o Fischkov.

Phil: Mas que fazes tu exactamente quando jogas que o Fischkov não faz?

Stu: Eu jogo segundo planos e com objectivos estratégicos, usando tácticas que me permitem alcançar os meus objectivos.

Phil: Mas como sabes que tens esses planos, objectivos e tácticas? É outra vez um caso em que falas contigo mesmo sobre estas coisas?

Stu: É.

Phil: Mas então como sabes que o Fischkov não está a falar consigo mesmo acerca dessas coisas? Podes ou não inferir que o computador pensa, a partir do facto de jogar?

Stu: Agora apanhei-te! Eu já vi o programa do Fischkov, e tudo o que faz é calcular: se o meu adversário fizer isto e eu fizer aquilo, e se depois ele fizer assim e eu fizer assado, ele come-me a rainha. É assim que o computador faz todos movimentos. É completamente mecânico.

Phil: O Fischkov tem de saber pelo menos que perder a rainha é mau. Tem de fazer algo mais do que calcular — tem de avaliar situações. O Fischkov atribui portanto valores a situações.

Stu: Mas o Fischkov não decide fazer um ataque de minorias, ou um ataque na ala de rei, ou uma medida profiláctica do tipo que Nimzowitch fazia.

Phil: E se o Fischkov pudesse responder a perguntas acerca de conceitos estratégicos como os que acabaste de mencionar? Admitirias assim que o Fischkov pensa? Não defendes, com certeza, que pensar bem em xadrez é um processo interior misterioso e milagroso?

Stu: Receio que continuo a acreditar nesses processos internos. Tens tentado afastar-me cada vez mais do valor da introspecção, mas talvez não deva deixar-te fazer isso.

Phil: Está bem, vamos então falar um pouco mais acerca da introspecção. Supõe que são necessárias algumas condições internas, só acessíveis introspectivamente, para que exista pensamento. Não tens com certeza acesso a estes fenómenos com respeito a outros seres pensantes. Mas apesar de não poderes entrar na minha cabeça, suponho que acreditas que penso. Além disso, com base em critérios behavioristas, negas certamente que as roseiras pensam. Por isso, por que razão havemos de entrar nesta questão dos processos internos? É claro que admito que nos resta ainda o problema difícil sobre a relação entre os processos internos e os critérios behavioristas.

Stu: Por agora, admitirei que se o Fischkov pudesse manipular com êxito conceitos estratégicos…

Phil: Quer dizer, se o seu programa tivesse termos estratégicos, ou se com base no seu programa e na maneira como ele joga lhe pudéssemos atribuir certos conceitos estratégicos.

Stu: Está bem, como queiras. Se o que afirmas é verdadeiro, admitirei que em certo sentido máquinas como o Fischkov podem pensar. Mas repara: nós somos pensadores versáteis, somos mais do que jogadores de xadrez. O nosso pensamento no xadrez está relacionado com o nosso pensamento noutras áreas. O tipo especial de pensamento necessário para jogar xadrez pode ser simulado por um computador, mas é simplesmente insuficiente para caracterizar o pensamento em geral. Jogar xadrez, ou poder jogar xadrez, pode ser uma condição necessária para a existência do pensamento, mas não é uma condição suficiente. O pensamento humano tem de ser versátil, tem de poder ser aplicado a situações muito diferentes. Planear antecipadamente jogadas de xadrez é uma coisa, mas planear em geral é outra coisa, muito diferente. Só porque uma máquina pode jogar xadrez — e mesmo que possa responder adequadamente a perguntas sobre a forma como o faz — não se segue que possa pensar, pelo menos como nós pensamos. A capacidade para pensar exige um comportamento mais complexo do que a capacidade para jogar xadrez.

Phil: Se jogar xadrez não é uma condição suficiente, temos de encontrar outra maneira de estabelecer critérios que possam fornecer as condições necessárias e suficientes do pensamento. Parece que já admitimos que se um agente qualquer X joga xadrez, com um certo grau de complexidade, então X pensa, num grau idêntico de complexidade. Um matemático chamado “Turing” sugeriu um jogo mais ambicioso que, se fosse ganho por uma máquina, confirmaria o facto de a máquina pensar. Segundo Turing, ser capaz de ganhar neste jogo é uma condição necessária e suficiente para que uma máquina pense. Turing chama-lhe “jogo da imitação”.¹ Vejamos se estarias disposto a participar neste jogo. O jogo da imitação é uma competição entre um ser humano, A, e um computador, B. Faz-se perguntas a A e a B, e o objectivo de A ao responder a essas perguntas é convencer um juiz, C, que ele, A, é o ser humano; e o objectivo de B é fazer C identificá-lo erradamente como humano, ou pelo menos não conseguir identificar nenhum dos dois como máquina. Seria injusto e desnecessário deixar C ver A ou B. Afinal de contas, a aparência exterior não tem qualquer relação com as respostas às nossas perguntas. Não queremos que B seja discriminado só porque é uma máquina “feia”. Por isso, escondemos A e B, que imprimem as suas respostas num ecrã ou em papel, para que a aparência da resposta não denuncie quem é quem. Repara que este jogo exige muito mais à máquina do que o xadrez; ela vai ter de enfrentar um conjunto muito vasto de perguntas. Não concordas que, se pudesses ter uma conversa inteligente com uma máquina, seria uma tolice negar que ela podia pensar?

Stu: Existem algumas máquinas que consigam ganhar o jogo da imitação?

Phil: A questão não é essa. Mesmo que hoje em dia não exista, de facto, qualquer máquina que possa ganhar o jogo, a simples possibilidade de vir a poder existir no futuro força-te a concluir que as máquinas podem pensar. Nesse caso, já não tens razão para ficar horrorizado quando se defende que as máquinas podem pensar.

Stu: Parece que tenho de conceder que existe a possibilidade de fazer um tipo qualquer de experiência crucial para decidir se as máquinas podem pensar. Mas continuo a pensar que o jogo da imitação é um bocado suspeito. Não estou certo de que conseguir ganhar o jogo seja um critério aceitável para a existência de pensamento. Deixa ver se consigo explicar-me melhor. Que se prova realmente se um computador ganhar o jogo da imitação? Prova-se apenas que um computador pode ser programado de maneira a conseguir imitar-nos. Porém, quando nós pensamos, quando existe verdadeiro pensamento, não estamos a imitar seja o que for. Tal como no que diz respeito ao Fischkov, o pensamento envolve algo mais do que aquilo que está presente neste caso. Um gravador imita muito bem a voz humana; o resultado final é o mesmo, mas não podemos certamente afirmar que um gravador canta da mesma maneira que nós. Por mais complexa que seja a imitação, não passa de uma imitação. Talvez se possa formular esta ideia da seguinte maneira: a máquina só pode imitar o produto final do nosso pensamento — imprime respostas semelhantes às nossas. Contudo, a máquina não pode imitar o pensamento que está por detrás dessas respostas.

Phil: Bom, parece que voltámos ao mesmo. Afirmas outra vez que não se trata apenas do que as máquinas podem fazer (como jogar xadrez, por exemplo); trata-se antes da maneira como o fazem. Como deves recordar-te já lidámos com este problema. Notámos quão difícil é explicar noções como “o pensamento que está por detrás” de uma acção, a não ser que esse pensamento seja qualquer coisa como falar ou escrever para nós mesmos; mas por que razão não pode uma máquina fazer isso? E, afinal, como pensam exactamente os seres humanos? Que sabemos nós acerca disso? Os psicólogos concordam todos com alguma teoria? Afinal, há muitas teorias diferentes sobre a maneira como os seres humanos pensam. Sabes o suficiente sobre o pensamento humano para que o teu argumento seja defensável?

Stu: Continuo a pensar que as máquinas têm de fazer mais do que conseguir ganhar o jogo da imitação, para podermos afirmar que pensam. Afinal de contas, por mais complexo que seja o jogo da imitação, não passa de um jogo.

Phil: Isso não é verdadeiro. O jogo da imitação é o jogo dos jogos. Pode-se considerar que qualquer jogo faz parte do jogo da imitação. Podes pedir a B para jogar às damas, ao galo, e até à batalha naval.

Stu: Mas o pensamento é mais do que jogar todos esses jogos.

Phil: É o quê?

Stu: O pensamento tem sempre um objectivo. Nós não nos limitamos a pensar; pensamos com objectivos…

Phil: Estás a dizer que as máquinas não têm objectivos, fins, intenções e assim por diante?

Stu: Exactamente. Talvez as máquinas possam jogar xadrez, mas não podemos dizer que pensam, a não ser que joguem com um objectivo qualquer, como ganhar, ou divertir-se, ou outro objectivo humano qualquer.

Phil: Não quero aborrecer-te nem irritar-te, mas vou adoptar uma vez mais a minha estratégia do costume: como sabes que tens objectivos? Será que é como se dissesses por vezes a ti mesmo “o meu objectivo é este”, ou “é isto que quero”, ou ainda “agora gostava de jogar xadrez”? Por vezes, acontece teres gostado de praticar certas actividades no passado; e assim, se nada de relevante mudou, queres fazer essas coisas outra vez.

Stu: Posso aceitar a tua formulação. Mas não faz com certeza sentido afirmar que uma máquina gosta de fazer seja o que for. É verdadeiro que a máquina pode “dizer” que gosta de qualquer coisa, mas não pode realmente gostar. Não pode gostar de seja o que for porque não sente seja o que for. Provavelmente já devia ter dito isto antes.

Phil: Diz-me que coisas sentiste da última vez que jogaste um bom jogo de xadrez — ou ténis, tanto faz. Onde estava exactamente o teu sentimento de contentamento? No estômago, na cabeça, nos cotovelos? Penso que damos muita importância ao que sentimos. É claro que sentimos coisas, como cócegas, dores, sensações de conforto e calor; mas o nosso pensamento não parece envolver isso de forma essencial. E depois, é claro, temos o velho problema de determinar como sabes que as outras pessoas sentem coisas. Com certeza que admites que sabes, ou pelo menos que acreditas, baseado em dados fidedignos, que as pessoas sentem coisas. Inferes ou não que as pessoas sentem coisas, com base no comportamento delas? Se adoptas esta posição behaviorista com respeito às pessoas, por que não aceitas o behaviorismo com respeito às máquinas? Espero que não sejas um fanático antimáquinas!

Stu: O behaviorismo só parece fazer sentido em relação às pessoas. Se não tenho a certeza de estar a lidar com pessoas, não tenho a certeza de estar a lidar com um comportamento, ou pelo menos com um comportamento humano. O que me preocupa é que parece que só posso usar critérios behavioristas se já souber quem é o ser humano — ou pelo menos o candidato a ser humano — e quem é a máquina. Para distinguir as máquinas das pessoas eu deveria ter outra maneira qualquer que fosse independente do argumento behaviorista que determina que os agentes sentem.

Phil: Era o que eu ia dizer…

Stu: Mas espera, ainda não desisti. Que dizes a este outro argumento? 1: só os seres vivos podem sentir coisas. 2: um computador não é um ser vivo. 3: logo, um computador não pode sentir seja o que for. Logo, um computador não é um ser humano.

Phil: Há um conjunto de coisas a dizer sobre este argumento. Em primeiro lugar, fico sempre impressionado com o apelo a argumentos. Mas por que razão hei-de aceitar a premissa 1 do argumento? A noção de ser vivo não é suficientemente clara. Onde traçamos a linha entre a vida e a ausência de vida? Por exemplo, os vírus são seres vivos? Será evidente que os seres inanimados não podem sentir coisas? Ou talvez se possa considerar que os computadores são seres vivos, segundo algumas definições razoáveis de ser vivo.

Stu: Deves estar a brincar. Se uma máquina é um ser vivo, desisto. As máquinas são exemplos claros de seres inanimados. Isto é verdadeiro por mais vago que seja o conceito de ser vivo.

Phil: Mesmo que conceda o que afirmas, ainda não mostraste que os seres inanimados não podem pensar. Não me parece que tenhas avançado grande coisa.

Stu: Estou a ver que te sentes confiante, o que é óptimo. Admito que não fui muito longe; mas, afinal de contas, sou apenas um estudante — sou estudante de matemática, é certo, mas ainda assim sou apenas um estudante. Por outro lado, tu és professor de filosofia. Este não tem sido, por isso, um debate justo. Conheço um professor de matemática que tenho a certeza que pode lidar contigo mais em pé de igualdade. Já discuti com ele este problema da mente/máquina e posso assegurar-te que ele não simpatiza com o mecanicismo. Na verdade, disse-me várias vezes que conhece uma refutação matemática do mecanicismo. Estás disposto a encontrares-te amanhã connosco, para ver se podes refutar a refutação dele? Ou só discutes com estudantes?

Phil: Como deves saber, nós, filósofos, investigamos a verdade até onde essa investigação nos conduzir — mesmo que nos conduza a um professor de matemática. Traz-me lá então o teu professor de matemática.

Nota

1. A. N. Turing, “The Imitation Game”, in A. R. Anderson, org., Minds and Machines (Englewood Cliffs, N.J.: Prentice Hall, 1964).↩︎