Em 1976, Joseph Weizenbaum publica Computer Power and Human Reason. Um dos pontos de partida dessa obra é o seu programa ELIZA e as reacções que o programa provocou - e que o chocaram.
Primeiro, muitas pessoas usando o programa envolviam-se emocionalmente na situação, como se estivessem mesmo a consultar um psiquiatra, chegando ao ponto de querer ter privacidade para os seus “diálogos” (o que aconteceu com a própria secretária do programador, apesar de ela “saber” perfeitamente quem tinha feito o ELIZA).
Segundo, aparecerem psiquiatras no activo a sugerir seriamente que o ELIZA podia ser desenvolvido para ser transformado numa forma automática de psicoterapia. Um dos exemplares mais notáveis é K.M. Colby, que desenvolveu ainda nos anos 1960 programas de análise da neurose, começando com um programa que “tratava” de uma mulher que acreditava que o seu pai a tinha abandonado, mas não aceitava conscientemente que o odiava por isso.
Terceiro, muitos investigadores consideravam que o ELIZA abria uma via promissora para a resolução do problema da compreensão da linguagem natural pelos computadores.
Este conjunto de reacções ao ELIZA, atribuindo maravilhas à sua obra que ele próprio negava veementemente, levou Weizenbaum a interessar-se pelos problemas suscitados pela facilidade com que as pessoas fazem atribuições extraordinárias a uma tecnologia que não compreendem. Postas as coisas nesses termos, não lhe basta a questão “técnica” de saber o que os computadores serão ou não serão capazes de fazer: quer averiguar a questão mais central de saber o que os computadores devem ou não devem ser autorizados a fazer em substituição dos humanos. A sua resposta é clara: certas áreas da acção humana não devem ser entregues nunca à máquina.
Amanhã veremos o seu argumento um pouco mais em pormenor.
