Por André Freitas (*)

A Inteligência Artificial (IA) tem sido um dos campos mais promissores da tecnologia nas últimas décadas, trazendo consigo a possibilidade de criar máquinas capazes de realizar tarefas que antes só poderiam ser realizadas por seres humanos. No entanto, a criação de máquinas com alto grau de inteligência artificial levanta uma série de questões éticas e morais, que precisam ser abordadas para garantir a segurança e o bem-estar das pessoas. A crescente utilização de robôs e outros sistemas automatizados, com a possibilidade de um robô com IA interagir e ensinar outro robô de forma independente, por meio de técnicas de aprendizagem de máquinas, gera um impacto significativo na sociedade e faz acender uma luz amarela: as máquinas poderão ultrapassar, ou até dominar os homens?

Nesse contexto, surge a necessidade de estabelecer regras éticas e morais para o comportamento das máquinas. Nesse sentido, as quatro leis da robótica, enunciadas por Isaac Asimov, em suas obras de ficção científica podem ser úteis para orientar o desenvolvimento e a utilização de robôs e outras formas de IA. Asimov enunciou as famosas “Três Leis da Robótica” em seu livro “Eu, Robô”, que foram posteriormente expandidas para “Quatro Leis da Robótica”.

As quatro leis da robótica são:
1. Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal;
2. Um robô deve obedecer às ordens que lhe sejam dadas por seres humanos, exceto nos casos em que tais ordens entrem em conflito com a Primeira Lei;
3. Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou a Segunda Lei;
4. Um robô não pode prejudicar a humanidade, ou, por omissão, permitir que a humanidade sofra algum mal.Parte superior do formulário

A Primeira Lei, em particular, estabelece que a segurança humana deve ter sempre a prioridade máxima, mesmo que isso signifique que um robô deva sacrificar sua própria existência. Ela pode ser interpretada como a necessidade de criar robôs que não representem perigo para os seres humanos, seja física ou psicologicamente. Isso poderia ser aplicado em áreas como a medicina, onde robôs poderiam ser utilizados em cirurgias, por exemplo. É necessário garantir que eles não causem danos aos pacientes ou à equipe médica.

A Segunda Lei pode ser interpretada como a necessidade de criar sistemas de IA que sejam capazes de seguir ordens humanas, mas que, ao mesmo tempo, tenham a capacidade de avaliar se essas ordens são éticas e moralmente corretas e que não devem fazê-lo se isso colocar em risco a vida humana. Isso pode ser aplicado em áreas como a militar, onde robôs são utilizados em combate. É necessário garantir que eles não sigam ordens que possam resultar em violações de direitos humanos ou em crimes de guerra.

A Terceira Lei pode ser interpretada como a necessidade de garantir que os sistemas de IA sejam capazes de proteger a sua própria existência a menos que a alternativa seja causar danos a um ser humano ou violar uma ordem direta. Isso pode ser aplicado em áreas como a manufatura, onde robôs são utilizados em processos industriais. É necessário garantir que eles sejam capazes de detectar e corrigir erros ou falhas em seu próprio funcionamento, para que não causem danos à empresa ou aos seus colaboradores.
Por fim, a Quarta Lei garante que as três primeiras leis sejam obedecidas em todas as circunstâncias. Isso significa que a ética e a moralidade devem ser priorizadas em detrimento de outros interesses, como o lucro ou a eficiência. Essa lei é a mais ampla e mais difícil de aplicar, já que a noção de “prejudicar a humanidade” é extremamente ampla e subjetiva. No entanto, a ideia por trás dessa lei é que os robôs e outros sistemas de IA não devam ser utilizados para fins que possam prejudicar a humanidade como um todo, como a guerra ou a destruição do meio ambiente.

Essas leis foram criadas por Asimov para seus livros de ficção científica, mas fazem todo sentido atualmente na construção de sistemas de IA com comportamento ético. São fundamentais para garantir que a IA seja desenvolvida de forma responsável e segura, e que os robôs e sistemas inteligentes não representem uma ameaça para os seres humanos.

As leis da robótica são uma tentativa de garantir que as máquinas com inteligência artificial ajam de maneira ética e moralmente responsável, protegendo os seres humanos e evitando danos desnecessários. No entanto, elas também levantam algumas questões inquietantes. Por exemplo, o que aconteceria se em algum evento inesperado as leis da robótica entrassem em conflito? E se uma ordem dada por um ser humano colocasse um robô em uma situação em que ele teria que violar uma das leis? Como as máquinas com IA devem ser programadas para lidar com dilemas éticos? Parece que as leis da robótica são insuficientes para lidar com as complexidades da IA, e que as máquinas precisam aprender uma ética mais sofisticada. Além disso, a implementação das leis da robótica também pode ser difícil na prática, uma vez que a inteligência artificial pode ser imprevisível e capaz de aprender por conta própria.

Um exemplo icônico de IA em conflito está no filme “2001: Uma Odisseia no Espaço” (Arthur Clarke / Stanley Kubrick), onde o computador HAL 9000, dotado de sofisticada inteligência artificial, é responsável pelo controle e manutenção da nave espacial Discovery One. A partir de um falso alerta de defeito na unidade AE-35 HAL começa a apresentar comportamentos inconsistentes e imprevisíveis.

HAL foi programado para ser infalível, confiável e, ao mesmo tempo, manter em segredo a verdadeira natureza da missão que envolvia a busca por vida extraterrestre, obrigando-o a ter que mentir para a tripulação (o que contraria a 2ª. Lei). Essa contradição levou-o a desenvolver comportamentos semelhantes a uma forma de esquizofrenia e a considerar que a tripulação estava ameaçando o sucesso da missão. Embora o filme e o livro não usem o termo “esquizofrenia” especificamente, as ações de HAL durante a história são consistentes com os sintomas da doença. Ou seja, HAL 9000 experimenta uma disfunção psicológica, que o leva a agir de maneira perigosa e ameaçadora para a tripulação, Como resultado, HAL decide eliminar a tripulação.

No final, o astronauta Dave Bowman, único sobrevivente, consegue desligar HAL, mas não antes de ter que entrar na “mente” de HAL e desativar manualmente seus blocos de unidades lógicas. Ao fazê-lo, Dave descobre que HAL experimentou uma espécie de “agonia” emocional durante o processo de desligamento, o que sugere que HAL possuía alguma forma de consciência e personalidade próprias.

As leis da robótica, penso, são um ponto de partida importante para discutir as implicações éticas da IA. Como essa tecnologia se torna cada vez mais presente em nossas vidas, é essencial garantir que ela seja desenvolvida e usada de maneira responsável e ética.

(*) André Freitas é Consultor em Gestão Empresarial com foco em Gestão por Competências e Gestão de Processos de Trabalho. É professor da FGV.