{"id":2462,"date":"2023-10-12T16:11:38","date_gmt":"2023-10-12T19:11:38","guid":{"rendered":"http:\/\/nivaldocleto.cnt.br\/blog\/?p=2462"},"modified":"2023-10-13T16:32:09","modified_gmt":"2023-10-13T19:32:09","slug":"diario-igf-2023-dia-4","status":"publish","type":"post","link":"https:\/\/nivaldocleto.cnt.br\/blog\/diario-igf-2023-dia-4\/","title":{"rendered":"Di\u00e1rio IGF 2023 – Dia 4"},"content":{"rendered":"
<\/div>\n

Por Nivaldo Cleto*<\/p>\n

No quarto dia do F\u00f3rum de Governan\u00e7a da Internet da ONU \u2013 IGF 2023, realizado em Kyoto no Jap\u00e3o, trazemos mais temas de interesse para a comunidade brasileira. O Comit\u00ea Gestor da Internet no Brasil \u2013 CGI.br est\u00e1 participando de diversas sess\u00f5es do IGF. ( Na foto acima, com Diogo Cortiz, professor da PUC-SP e pesquisador no N\u00facleo de Informa\u00e7\u00e3o e Coordena\u00e7\u00e3o do Ponto BR – NIC.br, moderador do painel “Grandes modelos de linguagem na Web: Antecipando o desafio”)<\/p>\n

 <\/p>\n

Grandes modelos de linguagem na Web: Antecipando o desafio<\/strong>\u00a0<\/strong><\/h3>\n

Foram discutidos v\u00e1rios aspectos dos modelos de linguagem grandes (LLMs)[i]<\/a> e intelig\u00eancia artificial (IA). Um dos pontos-chave levantados foi a limita\u00e7\u00e3o da coleta de dados da web para o treinamento de LLMs. Os palestrantes destacaram que a coleta de dados atual para LLMs muitas vezes \u00e9 feita de forma aleat\u00f3ria e carece de consentimento. Eles argumentaram que essa coleta indiscriminada de dados da Web pode violar a privacidade, os direitos autorais e o consentimento. O conceito de tecnologia consentida de Sacha Costanza-Chock, professora associada do Civic Media, no Instituto de Tecnologia de Massachusetts, que enfatiza a coleta significativa de dados com opt-in<\/em> (pr\u00e9-autoriza\u00e7\u00e3o), foi apresentado como uma alternativa melhor.<\/p>\n

Os palestrantes tamb\u00e9m enfatizaram que os LLMs nem sempre s\u00e3o fontes confi\u00e1veis de informa\u00e7\u00e3o. Eles apontaram que os LLMs refletem os vieses do Hemisf\u00e9rio Norte devido ao desequil\u00edbrio de dados. Essa representa\u00e7\u00e3o desigual pode levar a resultados distorcidos e perpetuar desigualdades existentes. Portanto, surgiram preocupa\u00e7\u00f5es sobre a incorpora\u00e7\u00e3o de LLMs em mecanismos de busca, pois isso poderia ampliar esses vieses e prejudicar a dissemina\u00e7\u00e3o de informa\u00e7\u00f5es objetivas e diversas.<\/p>\n

Outro t\u00f3pico de discuss\u00e3o foram os riscos associados ao “espalhamento” de m\u00eddia sint\u00e9tica. Os palestrantes destacaram que a m\u00eddia sint\u00e9tica pode se espalhar facilmente para outros sites da Internet, levantando preocupa\u00e7\u00f5es sobre desinforma\u00e7\u00e3o e informa\u00e7\u00f5es incorretas. Eles recomendaram que o texto sint\u00e9tico seja devidamente marcado e rastreado a fim de possibilitar sua detec\u00e7\u00e3o e garantir responsabilidade.<\/p>\n

No lado positivo, a an\u00e1lise explorou abordagens para detectar conte\u00fado gerado por IA. Os palestrantes reconheceram que, uma vez que o texto sint\u00e9tico \u00e9 disseminado, torna-se dif\u00edcil de detectar. No entanto, eles expressaram otimismo de que a marca d’\u00e1gua poderia servir como uma solu\u00e7\u00e3o potencial para rastrear conte\u00fado gerado por IA e diferenci\u00e1-lo do conte\u00fado gerado por humanos.<\/p>\n

No que diz respeito \u00e0 reformula\u00e7\u00e3o das discuss\u00f5es, houve um apelo para mudar o foco da IA para a automa\u00e7\u00e3o. Ao fazer isso, pode-se obter uma compreens\u00e3o mais clara do impacto na sociedade, garantindo que os riscos potenciais sejam minuciosamente avaliados.<\/p>\n

Em rela\u00e7\u00e3o a modelos de IA relacionados \u00e0 linguagem, os palestrantes enfatizaram a import\u00e2ncia de n\u00e3o os confundir e considerar cuidadosamente seu uso em diferentes tarefas. Isso destaca a necessidade de uma abordagem equilibrada que leve em considera\u00e7\u00e3o as capacidades e limita\u00e7\u00f5es espec\u00edficas de diferentes modelos de IA para v\u00e1rias tarefas de processamento de linguagem.<\/p>\n

A an\u00e1lise tamb\u00e9m enfatizou a import\u00e2ncia de as comunidades terem controle sobre seus dados para a preserva\u00e7\u00e3o cultural. Os palestrantes enfatizaram que as l\u00ednguas pertencem \u00e0s suas respectivas comunidades e que elas devem ter o poder de determinar como seus dados s\u00e3o usados. O modelo “nenhuma l\u00edngua deixada para tr\u00e1s”, que visa preservar todas as l\u00ednguas, foi criticado por ser visto como um projeto colonialista que n\u00e3o aborda desequil\u00edbrios de poder e os lucros obtidos por corpora\u00e7\u00f5es multinacionais. Argumentou-se que, se houver lucro a ser obtido com tecnologia de linguagem no Hemisf\u00e9rio Sul, ele deve ser reinvestido nas comunidades.<\/p>\n

Na recapitula\u00e7\u00e3o do moderador, foram levantados os seguintes pontos como centrais do debate: as limita\u00e7\u00f5es da coleta de dados da Web e as preocupa\u00e7\u00f5es associadas \u00e0 privacidade, direitos autorais e consentimento; os vieses nos LLMs e os riscos potenciais de sua incorpora\u00e7\u00e3o em mecanismos de busca; os riscos e a detec\u00e7\u00e3o de “espalhamento” de m\u00eddia sint\u00e9tica; a necessidade de reformular discuss\u00f5es sobre IA em termos de automa\u00e7\u00e3o; a import\u00e2ncia de considerar modelos de IA relacionados \u00e0 linguagem em diferentes tarefas e o controle de dados pelas comunidades foram enfatizados; os perigos do modelo “nenhuma l\u00edngua deixada para tr\u00e1s”.<\/p>\n

\"\"<\/p>\n

Mesa do painel sobre grandes modelos de linguagem. Al\u00e9m de Diogo Cortiz, o conselheiro do Comit\u00ea Gestor da Internet no Brasil \u2013 CGI.br, Rafael Evangelista (\u00e0 dir.) participou da sess\u00e3o<\/p>\n

 <\/p>\n

Confira a sess\u00e3o<\/h3>\n

WS #217 Large Language Models on the Web: Anticipating the challenge<\/strong><\/h3>\n