A prenúncio da IA para os estudantes vai muito além da trapaça, diz Yasmin London, perito global em segurança online da Qoria e ex-membro da Força Policial de Novidade Gales do Sul na Austrália.
Cada vez mais nas escolas dos EUA e em outros lugares, a IA está sendo usada por predadores para manipular crianças. Os alunos também estão usando IA para gerar imagens inadequadas de outros colegas ou funcionários. Para um relatório recenteQoria, uma empresa especializada em produtos de segurança e bem-estar do dedo infantil, pesquisou 600 escolas na América do Setentrião, Reino Unificado, Austrália e Novidade Zelândia.
Algumas descobertas importantes incluem:
- 91,4% dos entrevistados nos EUA estão preocupados com os predadores online que usam IA para preparar estudantes.
- As crianças possuem, solicitam e compartilham teor de nudez online com somente 11-13 anos de idade: 67,6% dos entrevistados nos EUA estão observando esse comportamento, sendo o Snapchat a principal plataforma de escolha.
- Os pais não são educados/envolvidos: 70,6% dos entrevistados nos EUA disseram que há uma falta de conscientização entre os pais quando se trata de IA e teor explícito.
O relatório demonstra que as escolas estão preocupadas com esta questão, mas ainda não têm recursos para responder.
“Havia muita preocupação, mas não muito conhecimento”, diz London.
Cá está uma estudo mais detalhada das ameaças em torno da preparação da IA e de outras preocupações com a IA, e o que as escolas podem fazer a reverência.
Tratamento de IA e outros crimes sexuais: perigos potenciais a evitar
Da mesma forma que os golpistas usam a IA para tornar seus esquemas de phishing mais eficientes e eficazes, os predadores sexuais online podem usar a IA para prejudicar crianças, diz Londres. Ela acrescenta que as escolas devem estar cientes de uma vez que os predadores podem usar a IA para atingir uma vítima, uma vez que podem usar a IA para lucrar a crédito de uma vítima, uma vez que podem satisfazer uma premência e, em seguida, uma vez que podem manipulá-la e isolá-la.
De concórdia com o relatório Qoria, a IA pode ajudar os predadores a atingirem os estudantes, analisando dados, reconhecendo padrões no seu comportamento e, em seguida, usando a IA para produzir personas falsas e convincentes. A IA também pode gerar informações falsas sobre pessoas próximas à gaiato, causando suspicácia e levando a gaiato ao isolamento, tornando-a mais vulnerável. Aliás, deepfakes podem ser usados para chantagear crianças com a prenúncio de vulgarizar informações potencialmente embaraçosas.
Nessa mesma traço, tecnologia falsa profunda pode ser usado por alunos para assediar outros alunos e funcionários, criando imagens falsas e explícitas deles.
Estas são somente algumas das maneiras nefastas pelas quais a tecnologia de IA pode ser usada de maneira prejudicial e abusiva. Outro exemplo são as ferramentas de IA de envelhecimento.
“Para que eu pudesse colocar uma foto minha. Tenho 42 anos e ter 10 anos mudará minha figura”, diz London. “O uso da IA para manipular imagens de crianças em vários contextos diferentes é definitivamente uma preocupação.”
Prevenindo o uso nefasto de IA
Londres compartilha várias medidas que as escolas podem tomar para limitar a prenúncio desse tipo de uso de IA aos alunos.
Usando a tecnologia corretamente. Londres diz que escolas e distritos individuais devem rever os seus filtros e sistemas de monitorização para prometer que são apropriados para contextos modernos. “Alguns deles podem ser bastante básicos. Alguns podem resultar em bloqueio excessivo e isso pode ser problemático”, diz ela. Ela acrescenta que as escolas desejam um filtro que possa captar alertas contextuais. “Linguagem que um jovem pode usar e que pode não ser necessariamente sinalizada uma vez que explícita, mas uma vez que você entenda uma vez que um predador pode falar com uma gaiato, isso pode ser um pouco que é captado.”
Educando os pais. As escolas compreendem que os alunos precisam de ser educados sobre estes temas, mas por vezes esquecem-se dos pais. “Uma desfecho realmente importante deste relatório foi que 70% das escolas disseram que a falta de consciência dos pais em relação à IA, ao teor explícito e aos predadores era uma barreira importante”, diz London. “E o que também descobrimos é que somente 44% das escolas ou distritos envolveram proativamente os pais em noites educativas ou partilharam informações. Logo é uma vitória muito fácil.” Ela acrescenta que essa ensino não precisa ser onerosa. “Poderia ser partilhar algumas comunicações regulares sobre alguns riscos e trabalhar com especialistas na espaço, uma vez que a polícia lugar.”
Compartilhando controles parentais com os pais. “Muitas escolas e distritos também podem compartilhar coisas uma vez que ferramentas de controle parental. Isso ajudará os pais não somente a reger o tempo dos filhos, mas também o tipo de teor que eles acessam”, diz London. “Quando eles usam uma utensílio de controle parental, eles conseguem ver de onde seus filhos foram bloqueados. Essa informação é realmente ótima para iniciar uma conversa”
Educando o pessoal. A ensino do pessoal também foi identificada no relatório Qoria uma vez que uma premência fundamental em torno desta questão. Londres diz que há medidas de inferior orçamento e superior impacto que as escolas podem tomar, uma vez que ter um perito em segurança cibernética de uma universidade lugar para falar sobre os perigos da IA ou formar grupos de trabalho em torno desses tópicos. Ela acrescenta: “Quando a equipe tem bons conhecimentos e uma abordagem baseada na força para ferramentas uma vez que IA, isso tem um efeito indireto quando se trata de coisas uma vez que procura de ajuda”.
