Quando, a partir do programa ELIZA e das interpretações que dele se fizeram, Weizenbaum se põe a reflectir sobre o papel das máquinas programadas na sociedade dos humanos, o seu ponto central é este: certos objectivos e propósitos humanos não devem ser delegados nos computadores, independentemente de isso ser ou não ser tecnicamente possível; em certos domínios, o desenvolvimento do poder dos computadores é moralmente repugnante.
Há uma área de aplicações que é simplesmente obscena: substituir um humano por um computador numa função que careça de respeito interpessoal, de compreensão ou de amor. Exemplos: um psicoterapeuta, um juiz. Nesta categoria incluem-se também as aplicações que “representam um ataque à vida”, como seja um projecto (então em vista) para ligar o cérebro e o sistema visual de um animal a um computador. Outra área de aplicações computacionais deve ser evitada, ou pelo menos desenvolvida com particular atenção, devido aos efeitos indirectos que pode despoletar. O exemplo dado é o do reconhecimento automático da fala, porque isso facilitaria aos governos o controlo das comunicações entre os cidadãos, com uma eficácia sem precedentes e com a consequente invasão de privacidade.
O ponto, para Weizenbaum, é que a relação dos humanos com o mundo é específica à condição humana. Mesmo que uma máquina possa ser suficientemente desenvolvida para ser considerada um tipo de animal (por exemplo, sentindo e agindo sobre o ambiente, sendo modificada pelas suas experiências no mundo, adquirindo algum tipo de sentido de si), mesmo assim cada espécie é socializada de uma determinada maneira. Os humanos tornam-se humanos em sentido pleno sendo tratados como seres humanos por outros humanos (por exemplo, sendo alimentados, protegidos e acarinhados desde a mais tenra infância) – e esse processo, que depende largamente de termos corpo, não é transferível “por programação” para uma máquina. Qualquer inteligência da máquina é uma inteligência que nos é estranha, porque os problemas da máquina não são os nossos problemas, escreve Weizenbaum em 1976.
A questão, para Weizenbaum, é ética: ele não pode admitir a pergunta que McCarthy um dia lhe fez: “O que é que um juiz sabe que não possamos ensinar a um computador?” – porque a resposta implícita era “Nada!”.
Logo em 1976 Weizenbaum viu aspectos importantes do problema. Em alguns aspectos a sua perspectiva ética já terá talvez sido derrotada (provisoriamente?). Mas o ponto continua a merecer reflexão.
