IA é usada para banir livros em escolas nos EUA
No distrito escolar de Mason City, Iowa, educadores estão utilizando a popular inteligência artificial de texto, o ChatGPT, para proibir livros das bibliotecas escolares. Essa decisão está sendo tomada como parte de um processo de cumprimento com uma nova lei estadual que requer que todos os livros sejam apropriados para a idade e não contenham descrições ou representações visuais de atos sexuais.
Essa política tem gerado controvérsias e críticas por ser considerada censura e absurda. Não apenas livros relacionados à sexualidade estão sendo afetados, mas também obras sobre saúde e até mesmo educação sexual. A lei não faz distinções claras e está sujeita a interpretações subjetivas.
Em um mundo ideal, os educadores analisariam individualmente cada livro para identificar trechos inapropriados para crianças, mas isso é inviável dado o volume de livros disponíveis nas bibliotecas escolares do estado. Com essa dificuldade logística em mente, os educadores do Distrito Escolar de Mason City optaram por utilizar uma inteligência artificial para realizar essa avaliação.
Inicialmente não identificada, foi confirmado posteriormente que o ChatGPT da OpenAI é a IA utilizada nesse processo. Baseando-se na premissa simplista e superficial de questionar se um livro contém ou não descrição textual ou representação visual de um ato sexual, a IA marca como inapropriado qualquer livro que responda afirmativamente.
As críticas surgiram tanto pela falta de transparência quanto ao treinamento do algoritmo utilizado, já que a caixa preta do ChatGPT não foi revelada pela OpenAI, quanto pelas dúvidas em relação às fontes e informações utilizadas para a avaliação dos livros. É incerto se o algoritmo foi treinado com o texto completo ou se baseia em avaliações fornecidas pelos usuários.
O distrito esclareceu seu método, revelando que as listas de livros questionados foram compiladas de várias fontes e filtradas por desafios relacionados ao conteúdo sobre sexualidade. Essa lista foi então submetida à análise da inteligência artificial para identificar se ocorre uma representação de ato sexual nos textos. De acordo com essa revisão, 19 livros serão retirados das bibliotecas escolares.
Essa polêmica envolvendo o uso da inteligência artificial para censurar livros nas escolas demonstra como o avanço tecnológico traz questões éticas e dilemas complexos. A controvérsia gira em torno da subjetividade das decisões tomadas pela IA, a falta de transparência no processo e o impacto na liberdade de expressão e acesso à informação dos estudantes.
| Resumo da Notícia |
|---|
| Controvérsia envolvendo inteligência artificial e proibição de livros em escola no estado de Iowa, EUA |
| No distrito escolar de Mason City, Iowa, educadores estão utilizando a inteligência artificial de texto, o ChatGPT, para proibir livros das bibliotecas escolares. |
| Essa decisão está sendo tomada como parte de um processo de cumprimento com uma nova lei estadual que requer que todos os livros sejam apropriados para a idade e não contenham descrições ou representações visuais de atos sexuais. |
| Essa política tem gerado controvérsias e críticas por ser considerada censura e absurda. |
| Os educadores do Distrito Escolar de Mason City optaram por utilizar uma inteligência artificial para realizar a avaliação dos livros, devido à dificuldade logística de analisar individualmente cada obra. |
| O ChatGPT da OpenAI é a IA utilizada nesse processo, mas sua caixa preta não foi revelada pela empresa. |
| As críticas surgiram tanto pela falta de transparência quanto ao treinamento do algoritmo utilizado, quanto pelas dúvidas em relação às fontes e informações utilizadas para a avaliação dos livros. |
| A lista de livros questionados foi compilada de várias fontes e filtrada por desafios relacionados ao conteúdo sobre sexualidade. |
| De acordo com a revisão da inteligência artificial, 19 livros serão retirados das bibliotecas escolares. |
| A polêmica envolvendo o uso da inteligência artificial para censurar livros nas escolas traz questões éticas e dilemas complexos. |
| A controvérsia gira em torno da subjetividade das decisões tomadas pela IA, da falta de transparência no processo e do impacto na liberdade de expressão e acesso à informação dos estudantes. |
Com informações do site Meio Bit.
