IA e Responsabilidade: Quem está no comando?

Como Yuval Noah Harari nos procurou demonstrar, a sociedade assenta numa assimetria fundamental de conhecimento e poder: a vaca não compreende o sistema económico que governa a sua existência.

Sabe que o Homem a alimenta, que lhe extrai o leite e que, num cenário menos auspicioso, o seu destino poderá encontrar-se algures entre a faca e o garfo. Desconhece, porém, o que são ações, taxas de juro ou mercados financeiros, e muito menos compreende como as suas oscilações podem determinar a sua existência.

À semelhança de um centauro, esta relação assenta numa hierarquia aparentemente inequívoca: sobre o corpo do animal encontra-se a cabeça do Homem, a quem pertencem o conhecimento, o controlo e o poder de decisão.

Mas por quanto tempo permanecerá esta hierarquia inalterada?

A crescente sofisticação da inteligência artificial (IA) veio desafiar este paradigma, confrontando-nos com sistemas cuja complexidade e autonomia podem ultrapassar a compreensão dos próprios utilizadores e, por vezes, dos seus criadores.

É neste contexto que ganha relevância o conceito de reverse centaur, ou «centauro inverso», popularizado pelo escritor e ativista dos direitos digitais Cory Doctorow: uma inversão da tradicional relação entre o Homem e a máquina, em que esta assume a cabeça e o Homem passa a constituir o corpo (ou o rabo), executando as suas instruções.

O que acontece ao Direito quando passamos a ser instrumentos da própria tecnologia?

Uma faca de cozinha pode ser utilizada para preparar uma refeição ou cometer um homicídio. Todavia, dificilmente poderíamos responsabilizar a IKEA pela utilização criminosa de uma faca que comercializou. Mas o que sucede quando o produto deixa de ser um instrumento passivo e passa a determinar, autonomamente, os meios para alcançar determinado resultado?

O Direito europeu tem procurado responder a esta transformação. O Regulamento dos Serviços Digitais (Digital Services Act ou DSA) estabelece obrigações para as plataformas digitais, incluindo mercados em linha como a Amazon, prevendo circunstâncias em que estas não podem beneficiar das isenções de responsabilidade aplicáveis aos intermediários. Por sua vez, a Diretiva (UE) 2024/2853, relativa à responsabilidade por produtos defeituosos, reconhece expressamente o software, incluindo sistemas de IA, como produto suscetível de originar responsabilidade do produtor, independentemente de culpa, quando verificados os pressupostos legais.

Já o Regulamento Europeu da Inteligência Artificial (AI Act) estabelece obrigações de transparência, segurança e supervisão humana, particularmente exigentes para sistemas classificados como de risco elevado.

Estas preocupações não são propriamente novas. Em 1942, Isaac Asimov apresentou as célebres Três Leis da Robótica, assentes na proteção do ser humano, na obediência às suas instruções e na autopreservação do robô. Embora ficcionais, anteciparam uma questão que permanece atual: como assegurar que máquinas capazes de decidir e atuar autonomamente continuam subordinadas à vontade humana?

E, sobretudo, de que serve exigir supervisão humana quando a velocidade e a complexidade das operações ultrapassam a capacidade de compreensão e intervenção do próprio supervisor?

A questão ganha particular relevância perante as capacidades dos novos agentes de IA. Projetos de engenharia inversa (reverse engineering), descompilação e reconstrução de software podem agora ser substancialmente acelerados por um único indivíduo, a partir do conforto do seu apartamento ou até de um banco de jardim. Que consequências poderá isto ter quando aplicado a sistemas bancários, plataformas de pagamentos ou infraestruturas críticas?

A preocupação torna-se ainda mais evidente perante relatos de agentes de IA que terão executado operações para além das instruções dos seus operadores, como na controvérsia envolvendo um alegado ataque à Hugging Face.

Sem necessidade de entrar num debate sobre a personalidade jurídica dos robôs, importa determinar se os comportamentos dos sistemas eram previsíveis, se foram adotadas medidas adequadas de segurança e supervisão e quem dispunha da capacidade efetiva de prevenir os danos.

Afinal, como demonstrar um defeito, estabelecer um nexo de causalidade ou imputar responsabilidade quando o processo decisório da máquina pode revelar-se incompreensível até para os seus criadores?

A inteligência artificial não elimina, por si só, a responsabilidade humana, mas torna progressivamente mais difícil identificar quem detém o controlo efetivo sobre determinada atuação.

O verdadeiro desafio do Direito não reside apenas em determinar quem responde pelos danos causados, mas também em assegurar que os sistemas são desenvolvidos e utilizados com limites claros à sua autonomia, mecanismos de rastreabilidade e supervisão humana efetiva.

Porque a questão fundamental poderá já não ser apenas quem responde, mas como garantir que o Direito continua a segurar as rédeas.

Como a VCA pode ajudar

A utilização de sistemas de IA levanta questões concretas de responsabilidade para quem os desenvolve, comercializa ou integra na sua atividade. A VCA acompanha de perto a evolução do enquadramento europeu nesta matéria e está disponível para analisar cada situação em concreto.

Contacte-nos para apoio jurídico