Uma questão sobre máquinas e humanos

Céline Lafontaine, em L'Empire cybernétique, diz (lendo A crise da cultura, de Hannah Arendt) que a perspectiva de criar máquinas que ultrapassam em capacidade de entendimento o humano supõe um descentramento completo do sujeito. Não li esse trabalho de Arendt e tenho dúvidas de que ela tenha falado exactamente nesses termos. De todo modo, há algo muito mais perturbador do que termos máquinas que calculam melhor do que nós. É haver máquinas cujo processo de construção foi lançado por nós e que, no entanto, "evoluem" de tal forma que nós deixamos de as entender. Isso passa-se, por exemplo, com máquinas cujo sistema de controlo são redes neuronais que foram objecto de um processo de evolução artificial (por exemplo, com algoritmos genéticos). Em muitos desses casos o resultado é opaco para os próprios "pais" da máquina (vêem o que ela faz mas não sabem exactamente como ela o faz). Isso é relativamente novo na história das relações entre humanos e máquinas. Contudo, de outro ponto de vista, isso pode não ser assim tão relevante: compreendemos nós os "mecanismos" de funcionamento dos nossos filhos?