Seja como a Pixar, não a NASA

Tudo começou às 4h da manhã do dia 28 de março de 1979, em Three Mile Island, Pensilvânia. O reator nuclear estava operando quase com potência máxima quando um circuito de resfriamento secundário apresentou defeito e afetou a temperatura do refrigerante primário. Este aumento acentuado da temperatura fez com que o reator desligasse automaticamente. No segundo que levou para desativar o sistema do reator, uma válvula de alívio não conseguiu fechar. O núcleo nuclear sofreu graves danos, mas os operadores não conseguiram diagnosticar ou lidar com o desligamento inesperado do reator no calor do momento.

O sociólogo Charles Perrow analisou mais tarde por que o acidente de Three Mile Island aconteceu, na esperança de antecipar outros desastres que viriam. O resultado foi seu livro seminal Normal Accidents. O seu objectivo, disse ele, era "propor um quadro para caracterizar sistemas tecnológicos complexos, como o tráfego aéreo, o tráfego marítimo, as fábricas de produtos químicos, as barragens e especialmente as centrais nucleares, de acordo com o seu risco".

Um fator foi a complexidade: quanto mais componentes e interações houver em um sistema, mais desafiador será quando algo dá errado. Com a escala vem a complexidade, quer estejamos pensando na tecnologia ou na organização que a suporta. Imagine que você dirige uma start-up onde todos se sentam no mesmo loft. De onde você está sentado, você pode ver facilmente o que todos estão fazendo. Numa grande organização, essa visibilidade é perdida. No momento em que um líder não consegue ver o funcionamento interno do próprio sistema – neste caso, as atividades da equipe – a complexidade aumenta.

Perrow associou esse tipo de complexidade a falhas tecnológicas. Em Three Mile Island, os operadores não podiam simplesmente caminhar até o núcleo e medir a temperatura manualmente ou espiar dentro para descobrir que não havia líquido refrigerante suficiente. Da mesma forma, os executivos de uma grande empresa não podem monitorar todos os funcionários o tempo todo sem incorrer em ressentimentos. Têm que contar com indicadores indiretos, como avaliações de desempenho e resultados de vendas. As grandes empresas também dependem de tecnologias de informação complexas e de cadeias de abastecimento complexas.

Outro factor, escreveu Perrow, era o acoplamento de um sistema: o nível de interdependência entre os seus componentes. Quando os sistemas são complexos e fortemente acoplados, é mais provável que produzam consequências negativas inesperadas e saiam do controle.

Perrow não incluiu a inteligência artificial (IA) ou mesmo software entre as tecnologias cujas interações ele mapeou. Mas, utilizando os critérios que ele estabeleceu relativamente ao risco tecnológico, os sistemas de IA enquadram-se no quadro de Perrow, ao lado das centrais nucleares, das missões espaciais e da sequenciação de ADN. Se algum elemento não estiver funcionando conforme o planejado, poderão ocorrer efeitos em cascata imprevistos que afetarão o sistema de maneiras totalmente inesperadas.

Os sistemas fortemente acoplados possuem arquitecturas – tecnológicas e sociais – que promovem a interdependência entre os seus componentes e muitas vezes o isolamento de ligações externas. Isso os torna eficientes e autoprotetores, mas menos robustos.

Os sistemas fracamente acoplados, por outro lado, têm arquiteturas mais abertas e diversificadas. As alterações em um módulo, seção ou componente dificilmente afetam os outros componentes. Cada um opera de forma um tanto independente dos outros. Uma arquitetura fracamente acoplada é fácil de manter e escalar. Também é robusto, pois os problemas não se propagam facilmente para outras partes do sistema.

Os executivos que dirigem grandes organizações tendem a favorecer um sistema fortemente acoplado. É o que eles sabem. Eles cresceram em seus setores vendo um pequeno número de pessoas tomando decisões que afetam milhões de pessoas. Mas sistemas fortemente acoplados podem ser mais difíceis de controlar. Pense em um chão coberto de dominós alinhados. Quando você tomba um deles, ele derruba, em sequência, todo o conjunto de dominós – um exemplo simples de sistema fortemente acoplado. Agora tente pará-lo quando o efeito dominó estiver em movimento. É muito mais difícil do que você imagina.

Uma grande empresa também é geralmente um sistema fortemente acoplado, especialmente em comparação com pequenas empresas e varejistas familiares locais. Se você tiver uma reclamação sobre o produto de uma loja de esquina, pode retirá-la e eles atenderão com calma, tratando-a de maneira diferente para cada cliente. Eles têm controle sobre suas ações. Se trabalham em uma grande empresa ou como franquia, estão fortemente ligados à marca da empresa e aos procedimentos de expansão — e entre si. Aqueles que desejam operar de forma diferente dos procedimentos padrão devem resistir à rede fortemente acoplada.