Sessão da ONU debate como tornar a inteligência artificial fiável em serviços públicos

Os oradores defenderam que quem usa estes serviços deve saber de onde vêm os dados, o que o sistema está autorizado a fazer e quem faz a revisão quando é preciso. As fontes devem ser aprovadas, ter responsável e estar datadas.

Num exemplo com clínicas fictícias, o serviço pode divulgar informação pública, mas não contactos privados. Se houver dados em falta ou em conflito, o caso segue para um especialista, em vez de o sistema escolher sozinho.

Na vertente técnica, foi defendido o controlo da identidade e do alcance de cada pedido, a validação das ferramentas usadas e passos de aprovação humana para ações sensíveis. A recomendação é começar por um piloto limitado e alargar a autonomia aos poucos.

Um dos oradores resumiu a abordagem em «verificar, depois confiar» e afirmou que a responsabilidade pelo resultado é sempre de uma pessoa.

Fonte: União Internacional de Telecomunicações (ONU) — From trusted knowledge to accountable action