Por Nivaldo Cleto*
Na terça-feira, dia 29, no 17º Fórum de Governança da Internet (IGF), que ocorre em Addis Abeba, Etiópia, destacamos a sessão intitulada “Realizing Trustworthy AI through Stakeholder Collaboration”, organizada pela Organização para a Cooperação e Desenvolvimento Econômico (OECD). Nessa sessão foi debatida a evolução e regulamentação da Inteligência Artificial (IA) segundo os “OECD AI Principles”, que são uma série de pareceres sobre como desenvolver IA seguindo princípios de direitos humanos e democracia. Uma série de países se comprometeram a segui-los, inclusive o Brasil, que é candidato a integrar a OECD.
Abaixo um mapa dos países comprometidos a esses princípios:
Esses princípios possuem 10 recomendações, das quais destacamos 3 muito relevantes para o setor comercial: “transparência e explicabilidade”, “robustez, segurança e proteção”, e “capacitação humana e preparação para a transição do mercado de trabalho”.
A questão da transparência e explicabilidade é algo que foi largamente ignorado durante as primeiras ondas de desenvolvimento das IA, de modo que os sistemas são treinados para dar respostas, mas não existe um esclarecimento de como se chegou a um dado resultado. É como uma equação matemática da qual só se consegue ver o resultado, e não os cálculos envolvidos para se chegar a aquele resultado.
Quanto mais avançadas ficam as IA, mais se torna necessário esse tipo de recurso para que se possa efetivamente questionar um resultado gerado pela máquina. Na vida democrática como a entendemos se pode questionar uma decisão tomada por uma autoridade, tanto que a maioria dos sistemas de justiça possui várias instâncias. No entanto, a maioria das IA não permite esse tipo de contestação, pois seus resultados simplesmente “existem”.
Com um desenvolvimento responsável e voltado a gerar explicabilidade, esse tipo de problema pode ser evitado, mas é algo que de fato precisa ser gerado de forma intencional. Ou seja, governos e empresas precisam realmente querer que os sistemas sejam estruturados dessa forma para que seja possível que tenhamos esse tipo de confiabilidade e transparência disponíveis.
Em termos de robustez, segurança e proteção, de certa maneira conseguimos relacionar esse ponto com a questão anterior, pois não apenas os sistemas precisam ser explicáveis, mas também é necessário garantir que os dados que integram e são produzidos pelas IAs são seguros e existem dentro de um contexto seguro.
Isso significa duas coisas: por um lado, os dados que são usados como base para os aprendizados da IA devem ser tratados de maneira adequada e que não viole a privacidade e segurança; por outro lado, os resultados que são gerados também tem que possuir privacidade e segurança, de modo tanto que não revelem dados privados provenientes do material com os quais foram treinados e ao mesmo tempo deem um resultado satisfatório. A única maneira de obter esses resultados é avaliar de modo continuo e objetivo os modelos de IA.
Dentro do tema da capacitação humana, temos que ser atentos. As IA estão evoluindo muito mais rapidamente do que era previsto. A velocidade com a qual elas vão começar a trivializar diversas atividades humanas será surpreendente. Grande parte do campo de arte e tarefas criativas já está sendo preenchido com IAs altamente capazes, que geram imagens, áudio, vídeo, e escrita de alta qualidade.
Dentro desse contexto, já avançam rapidamente as IAs com capacidade de fazer análise de documentos e produzir resultados fortes, tal como as com capacidade de tarefas como contabilidade, diagnóstico médico, e diversas outras. O desenvolvimento já e franco e não parecem existir freios, então a realidade é que os profissionais terão que pensar rapidamente em como se adaptar e evoluir, para não correrem o risco de verem suas ocupações se tornando obsoletas.
Para que isso ocorra, a comunidade empresarial precisa agir de modo responsável e responsivo, preparando sua força de trabalho par mudanças que já estão no horizonte. Se não formos proativos e agirmos de maneira consciente, colocaremos em risco muitos dos princípios que guiam nosso setor. Nos mantermos atualizados não é uma opção, e sim uma obrigação nesse novo mundo de IAs.
Computação Afetiva: Os Desafios da Governança
Outro tema envolvendo a IA é a chamada computação afetiva. Em uma Trilha Temática organizada pelo professor Diogo Cortiz da Silva, do Centro de Informações da Rede (NIC.br), Lucia Santaella, da PUC-SP e Hartmut Richard Glaser, do Comitê Gestor da Internet no Brasil – CGI.br, o intuito foi inserir o tema da Computação Afetiva na agenda do IGF. É uma tecnologia nova e compreende o estudo de como os computadores podem reconhecer, interpretar e simular afetos humanos.
Com o avanço da IA, o reconhecimento de emoções está se tornando mais detalhado e refinado. O workshop demonstrou as preocupações com seus potenciais, riscos para a segurança e privacidade, questões regulatórias, limites éticos entre outros.
É um tema inquietante tendo em vista as diversas tecnologias onde ela pode ser aplicada. Além da indução de consumo, que pode ser usada pelo mercado e grandes corporações, há a questão das relações humanas, já muito explorada em histórias de ficção. Podemos citar como melhor expoente o filme A.I.: Inteligência Artificial, um projeto do diretor Stanley Kubrick que Steven Spielberg assumiu após sua morte. O filme se passa em 2141 e a Terra vive um estado pós-apocalíptico em que as calotas glaciais se derreteram. Para que os seres humanos continuem existindo é criado um robô, que, com o passar do tempo, aprende a conviver com seus pais adotivos e começa a ganhar emoções.
Conversamos com o professor da PUC-SP Diogo Cortiz, pesquisador no Núcleo de Informação e Coordenação do Ponto BR, sobre esta nova tecnologia.
Confira a reunião “Affective Computing: The Governance challenges”
(*) Nivaldo Cleto é empresário de contabilidade e de certificação digital, conselheiro do Comitê Gestor da Internet no Brasil CGI.br e membro da ICANN Business Constituency – BC
