A lição do subproduto ao comportamento religioso dos seres humanos. Observamos grandes número de pessoas - em muitas áreas correspondendo a 100% - que possuem crenças que contradizem diretamente os fatos científicos demonstráveis e também religiões rivais seguidas por outras tantas pessoas. As pessoas não apenas possuem uma certeza apaixonada dessas crenças mas também dedicam tempo e recursos para atividades dispendiosas decorrente delas. Morrem por elas, ou matam por elas. Assombramo-nos com isso, exatamente do mesmo modo como nos assombramos com o "comportamento de auto-imolação" das mariposas.
Minha hipóteses específica é sobre crianças. Mais que qualquer outra espécie, sobrevivemos pela experiência acumulada pelas gerações anteriores, e essa experiência precisa ser transferida às crianças em nome de sua proteção e seu bem-estar. Teoricamente, as crianças podem aprender pela experiência pessoal a não chegar perto da beira de um precipício, a não comer frutinhas vermelhas desconhecidas, a não nadar em águas infestadas de crocodilos. Mas, para dizer o mínimo, haverá uma vantagem seletiva para cérebros de crianças dotados da seguinte regra geral: acredite, sem questionamentos, no que seus adultos lhe dizem. Obedeça a seus pais; obedeça aos anciãos da tribo, especialmente quando eles adotam um tom solene e ameaçador. Confie nos anciãos sem questionamentos. Essa é uma regra normalmente valiosa para uma criança. Mas, assim como com as mariposas, ela pode dar errado.
Soldados são treinados para parecer o máximo possível com autômatos, ou computadores.
Computadores fazem o que lhes mandar fazer. Obedecem como escravos a qualquer instrução que seja dada em sua linguagem de programação. É assim que eles fazem coisas úteis como processar textos e calcular planilhas. Mas, como subprodutos inevitável, eles são igualmente robóticos para obedecer a instruções ruins. Não tem como saber se uma instrução terá um efeito positivo ou negativo. Simplesmente obedecem, como os soldados devem fazer. É sua obediência sem questionamentos que torna os computadores úteis, e exatamente a mesma coisa os torna inescapavelmente vulneráveis à infecção por vírus e vermes de programação.
É difícil projetar um computador que tenha a utilidade de ser obediente e ao mesmo tempo imune à infecção.
Líderes religiosos conhecem bem a vulnerabilidade do cérebro infantil e a importância de começar cedo com o doutrinamento. (Talvez algumas crianças tenham de ser protegidas do doutrinamento de seus próprios pais.).
Mas o lado ruim da obediência insuspeita é a credulidade escrava.
Uma consequência automática é que aquele que confia não tem como distinguir os bons conselhos dos maus.