Agentes de IA empurram os seres humanos para fora do circuito

Resumo: Os agentes de IA apresentam riscos significativos à medida que recebem maior autonomia. Uma solução comumente proposta é a supervisão humana e manter um "humano no circuito", mas esta não é uma solução simples: não apenas as abordagens atuais para o design de agentes de IA impedem a supervisão humana eficaz, mas as capacidades cognitivas necessárias para isso também são degradadas pelo uso prolongado de sistemas de IA. Este documento de posição argumenta que as abordagens atuais para o desenvolvimento e implantação de sistemas de agentes de IA não suportam a supervisão humana eficaz - elas contribuem para sua degradação. Para resolver isso, uma das principais prioridades no avanço dos agentes de IA deve ser apoiar os objetivos estabelecidos e os requisitos cognitivos da supervisão humana eficaz, tratando as necessidades humanas dos supervisores no mesmo nível de importância que a capacidade do agente de IA. Para colocar essa ideia em prática, conectamos o trabalho em automação e

Tradução automática do material divulgado por Lobsters. O texto completo está na fonte, no link acima.