Machina Speculatrix

"José Mattoso [em A Identidade Nacional] conta-nos que um dia o rei D. Luís perguntou do seu iate a uns pescadores, com quem se cruzou na costa, se eram portugueses; e a resposta foi desconcertante e clara: «Nós outros? Não, meu Senhor! Nós somos da Póvoa do Varzim!». A resposta revela a complexidade do problema. O serem portugueses não lhes pôde ocorrer, quando a pertença à comunidade próxima é que estava presente."

Guilherme d'Oliveira Martins, Portugal - Identidade e Diferença, Gradiva, 2007, p. 16

Quando, a partir do programa ELIZA e das interpretações que dele se fizeram, Weizenbaum se põe a reflectir sobre o papel das máquinas programadas na sociedade dos humanos, o seu ponto central é este: certos objectivos e propósitos humanos não devem ser delegados nos computadores, independentemente de isso ser ou não ser tecnicamente possível; em certos domínios, o desenvolvimento do poder dos computadores é moralmente repugnante.


Há uma área de aplicações que é simplesmente obscena: substituir um humano por um computador numa função que careça de respeito interpessoal, de compreensão ou de amor. Exemplos: um psicoterapeuta, um juiz. Nesta categoria incluem-se também as aplicações que “representam um ataque à vida”, como seja um projecto (então em vista) para ligar o cérebro e o sistema visual de um animal a um computador. Outra área de aplicações computacionais deve ser evitada, ou pelo menos desenvolvida com particular atenção, devido aos efeitos indirectos que pode despoletar. O exemplo dado é o do reconhecimento automático da fala, porque isso facilitaria aos governos o controlo das comunicações entre os cidadãos, com uma eficácia sem precedentes e com a consequente invasão de privacidade.


O ponto, para Weizenbaum, é que a relação dos humanos com o mundo é específica à condição humana. Mesmo que uma máquina possa ser suficientemente desenvolvida para ser considerada um tipo de animal (por exemplo, sentindo e agindo sobre o ambiente, sendo modificada pelas suas experiências no mundo, adquirindo algum tipo de sentido de si), mesmo assim cada espécie é socializada de uma determinada maneira. Os humanos tornam-se humanos em sentido pleno sendo tratados como seres humanos por outros humanos (por exemplo, sendo alimentados, protegidos e acarinhados desde a mais tenra infância) – e esse processo, que depende largamente de termos corpo, não é transferível “por programação” para uma máquina. Qualquer inteligência da máquina é uma inteligência que nos é estranha, porque os problemas da máquina não são os nossos problemas, escreve Weizenbaum em 1976.


A questão, para Weizenbaum, é ética: ele não pode admitir a pergunta que McCarthy um dia lhe fez: “O que é que um juiz sabe que não possamos ensinar a um computador?” – porque a resposta implícita era “Nada!”.


Logo em 1976 Weizenbaum viu aspectos importantes do problema. Em alguns aspectos a sua perspectiva ética já terá talvez sido derrotada (provisoriamente?). Mas o ponto continua a merecer reflexão.

Em 1976, Joseph Weizenbaum publica Computer Power and Human Reason. Um dos pontos de partida dessa obra é o seu programa ELIZA e as reacções que o programa provocou - e que o chocaram.


Primeiro, muitas pessoas usando o programa envolviam-se emocionalmente na situação, como se estivessem mesmo a consultar um psiquiatra, chegando ao ponto de querer ter privacidade para os seus “diálogos” (o que aconteceu com a própria secretária do programador, apesar de ela “saber” perfeitamente quem tinha feito o ELIZA).

Segundo, aparecerem psiquiatras no activo a sugerir seriamente que o ELIZA podia ser desenvolvido para ser transformado numa forma automática de psicoterapia. Um dos exemplares mais notáveis é K.M. Colby, que desenvolveu ainda nos anos 1960 programas de análise da neurose, começando com um programa que “tratava” de uma mulher que acreditava que o seu pai a tinha abandonado, mas não aceitava conscientemente que o odiava por isso.

Terceiro, muitos investigadores consideravam que o ELIZA abria uma via promissora para a resolução do problema da compreensão da linguagem natural pelos computadores.


Este conjunto de reacções ao ELIZA, atribuindo maravilhas à sua obra que ele próprio negava veementemente, levou Weizenbaum a interessar-se pelos problemas suscitados pela facilidade com que as pessoas fazem atribuições extraordinárias a uma tecnologia que não compreendem. Postas as coisas nesses termos, não lhe basta a questão “técnica” de saber o que os computadores serão ou não serão capazes de fazer: quer averiguar a questão mais central de saber o que os computadores devem ou não devem ser autorizados a fazer em substituição dos humanos. A sua resposta é clara: certas áreas da acção humana não devem ser entregues nunca à máquina.


Amanhã veremos o seu argumento um pouco mais em pormenor.