Во новиот, напреден свет на технологијата, вештачката интелигенција не ги бира жртвите. Најновата измама, но и уцена, се однесува на злоупотреба на фотографии од деца кои се поставени на веб-страниците и социјалните мрежи на училиштата. Првите случаи се забележани во Велика Британија, а прашање на денови е кога оваа појава ќе стане широко распространета.
Сите училишта во светот објавуваат фотографии од учениците славејќи ги нивните успеси. Проблемот настанува во моментот кога разни криминални групи ги злоупотребуваат тие фотографии. Тие создаваат лажни слики и ги уценуваат училиштата дека ќе ги објават тие монтирани содржини.
Бараат пари
Поради оваа причина, експертите во Велика Британија предупредија дека училиштата треба да ги отстранат фотографиите од учениците од своите интернет-страници и профили на социјалните мрежи, бидејќи уценувачите ги злоупотребуваат за изработка на сексуално експлицитни слики со помош на вештачка интелигенција.
Имено, експертите за безбедност на децата и Националната агенција за криминал (NCA) во Велика Британија предупредуваат дека криминалците користат алатки на вештачка интелигенција (AI) за да манипулираат со фотографиите на децата, а потоа бараат пари во замена за необавување на таквата содржина, пишува „Гардијан“.
Препорака: Отстранете ги фотографиите на децата од сајтот на училиштето
Поради ова, тие им препорачуваат на училиштата да ги отстранат фотографиите на децата од своите страници или сериозно да размислат воопшто да не ги објавуваат.
Целиот овој проблем дојде во фокусот на јавноста кога неодамна едно средно училиште во Велика Британија беше цел на обид за уцена. Криминалците презеле фотографии од ученици, а потоа со помош на вештачка интелигенција ги претвориле во лажен материјал кој прикажува сексуална експлоатација. Уценувачите потоа ги испратиле тие снимки до училиштето и се заканиле дека ќе ги објават доколку не добијат пари.
„Новата закана е длабоко загрижувачка“
Џес Филипс, британската министерка задолжена за заштита и борба против насилството врз жените, оцени дека обидите за уцена на училиштата претставуваат „длабоко загрижувачка закана“. Таа порача дека законската рамка ќе биде дополнително поострена доколку има потреба, со цел да се спречи поседувањето на AI модели наменети за генерирање вакви материјали.
Упатства за заштита на учениците
Радната група за рано предупредување (EWWG) издаде насоки до училиштата за заштита на учениците. Иако проблемот сè уште не се смета за широко распространет, групата предупредува дека е само прашање на време кога повеќе училишта ќе станат цел.
Експертите советуваат:
- Да се избегнува објавување фотографии на кои јасно се гледаат лицата на децата.
- Да се користат фотографии од далечина, заматени (блурирани) снимки или кадри на кои учениците се гледаат од грб.
- Да не се објавуваат имињата на децата бидејќи може да бидат искористени за дополнителна злоупотреба.
- Училиштата да преиспитаат дали воопшто е неопходно објавувањето фотографии, бидејќи успесите може да се слават и преку други визуелни содржини кои не носат ваков ризик.
