Como o uso da IA generativa altera a responsabilização dos profissionais por erros e sua avaliação por terceiros?

Host: Olá a todos e bem-vindos ao A.I.S. Insights — powered by Living Knowledge. Sou Anna Ivy Summers. Hoje analisamos o estudo intitulado "AI and the Shifting Boundaries of Professional Accountability", de autoria de Leily Soleimanof, Derrick Neufeld e Yasser Rahrovani. Este trabalho investiga como a adoção da inteligência artificial generativa altera as dinâmicas de responsabilização e a forma como o trabalho profissional é avaliado. Para detalhar essas questões, conto com a presença de Alex Ian Sutherland. Alex, seja bem-vindo.
Expert: Olá, Anna. É um prazer estar aqui para discutir este estudo.
Host: Alex, para começarmos, qual é o problema central que os pesquisadores procuraram responder?
Expert: Historicamente, a maior parte das pesquisas sobre a interação humano-IA foca no sentimento individual de responsabilidade ou em diretrizes gerais de governança corporativa. No entanto, essas abordagens deixam de lado a responsabilização enquanto um processo social e relacional. O estudo preenche essa lacuna ao investigar como os profissionais são de fato avaliados por colegas, supervisores e clientes quando ferramentas de IA participam da execução de suas tarefas.
Host: E qual metodologia foi aplicada para examinar essa dinâmica na prática?
Expert: Os autores utilizaram uma abordagem qualitativa focada no setor contábil. Foram realizadas quatro entrevistas-piloto e doze entrevistas semiestruturadas com Contadores Profissionais Credenciados no Canadá, abrangendo diferentes funções, setores organizacionais e níveis de experiência. O objetivo foi coletar relatos concretos sobre a rotina de trabalho e a interação com essas ferramentas.
Host: O que os dados revelaram sobre a responsabilidade dos profissionais ao usar IA?
Expert: O primeiro achado central é que os profissionais continuam mantendo a responsabilidade integral pelo resultado final, independentemente de a tarefa ter sido realizada com apoio de IA. Contudo, ao delegar etapas analíticas ou de redação para sistemas automatizados, o profissional perde parte da familiaridade manual profunda com o processo. Antes, essa familiaridade era a base utilizada para explicar e defender cada detalhe de uma decisão sob escrutínio.
Host: Essa perda de contato direto com as etapas intermediárias afeta a maneira como os erros são interpretados?
Expert: Sim, e essa é uma das principais conclusões do estudo. Ocorre uma mudança clara no padrão de avaliação: passa-se da análise do raciocínio para a verificação de diligência. Quando um erro acontece em um fluxo de trabalho manual tradicional, ele costuma ser tratado como parte do aprendizado, exigindo apenas que o profissional explique sua linha de raciocínio. Já quando um erro decorre de uma saída de IA, ele é rotulado como negligência ou falta de empenho, interpretado como falha básica na conferência dos dados.
Host: Ou seja, a natureza da cobrança profissional é redefinida.
Expert: Exatamente. A responsabilização profissional migra para um modelo baseado em verificação contínua. Em vez de refletir profundamente sobre o passo a passo da construção de uma solução, o foco passa a ser auditar e checar o que a máquina gerou. Além disso, o estudo constatou que os profissionais decidem revelar ou esconder o uso da IA estrategicamente, dependendo de como acreditam que clientes e gestores irão reagir, buscando proteger sua credibilidade.
Host: Considerando esse cenário, quais são as implicações práticas para as lideranças empresariais?
Expert: Para as empresas, o estudo evidencia que adotar IA não reduz o risco operacional se as estruturas de supervisão continuarem as mesmas. É fundamental redesenhar os fluxos de trabalho para incluir etapas explícitas de validação e verificação de saídas algorítmicas. Além disso, as organizações precisam estabelecer políticas transparentes de comunicação sobre o uso de tecnologia, evitando que os colaboradores sintam necessidade de ocultar ferramentas produtivas por receio de penalidades ou julgamentos negativos.
Host: Em resumo, a introdução da IA generativa exige repensar métodos de auditoria interna, critérios de avaliação de desempenho e a própria formação de competências críticas nas equipes. Alex, muito obrigada pelas explicações.
Expert: Obrigado, Anna.
Host: E obrigado a você que nos acompanhou no A.I.S. Insights — powered by Living Knowledge. Até o próximo episódio.