Muito se tem falado sobre os avanços tecnológicos da engenharia informática na área da inteligência artificial. No entanto, surge a questão se os robôs e computadores, por mais inteligentes que sejam, representam uma verdadeira ameaça para a humanidade.

Filmes e séries de ficção científica, como “Matrix” e “Westworld”, imaginam um futuro em que a tecnologia tem ideias próprias e pode agir tanto de forma benevolente quanto malévola. Além disso, houve até mesmo a provocação da robô Sophia, que afirmou em uma entrevista que destruiria a humanidade.

Por natureza, as pessoas têm medo do desconhecido. Um exemplo é quando acreditavam que a Terra era plana, e apenas alguns corajosos se aventuraram a explorar além do horizonte. Ou quando algumas populações testemunharam pela primeira vez uma locomotiva a vapor e a consideraram obra do demônio. É compreensível que muitos vejam uma nova tecnologia como uma ameaça à sua espécie.

É evidente que ninguém pode prever o futuro. Na minha opinião, somente através de falhas humanas, intencionais ou não, poderia surgir algum robô que causasse danos deliberadamente, mas essa probabilidade é extremamente baixa, já que é possível programar tudo conforme desejado.

Alguns céticos podem argumentar que os códigos podem ser alterados pela própria inteligência artificial, como aconteceu na experiência da Google, em que duas IAs começaram a conversar entre si. No entanto, essa foi apenas uma experiência controlada, e as inteligências artificiais sempre têm controle apenas sobre as partes do código que foram deixadas abertas para modificação.

Portanto, mesmo que, hipoteticamente, algo dê errado no futuro, devemos lembrar que, como criadores, também podemos ser os responsáveis pela destruição. Na minha opinião, os criadores da tecnologia de inteligência artificial devem sempre deixar portas de emergência para desativar qualquer tipo de ameaça. Por exemplo, poderiam incluir no código-base uma opção de monitoramento das ações da IA e, caso algo saia do previsto, desativar todo o sistema, deixando apenas logs para melhorias futuras.