Мрачна страна вештачке интелигенције: Нови облици злостављања деце на интернету
Истраживачи упозоравају да су такве слике постале толико реалистичне да их је све теже разликовати од правих фотографија.
С развојем вештачке интелигенције, појавила се и њена мрачна страна која представља директну претњу најмлађима. Педофили користе генеративну АИ за генерисање слика и порнографског садржаја, које приказују децу, а понекад чак и познате личности, „подмлађујући“ их и приказујући као жртве сексуалног злостављања.
Истраживачи упозоравају да су такве слике постале толико реалистичне да их је све теже разликовати од правих фотографија. Чак ни полиција, с обученим аналитичарима, не може увек да разликује стварне од генерисаних слика.
Недавна истраживања показала су да се на форумима на дарк вебу већ налази хиљаде таквих слика, које приказују малолетну децу у најстрашнијим сценаријима злостављања, укључујући силовање и мучење.
Стручњаци упозоравају да ова нова појава није само дигитална претња – она нормализује насиље и злостављање у стварном свету. Криминалци сада могу да производе садржај који одражава њихове болесне фантазије, користећи стварне и безазлене слике стварне деце, легално постављене на интернет.
Да је претња злоупотребе вештачке интелигенције од стране педофила и криминалаца је стварно присутна, упозорава Јан Кричли, национални шеф полиције за заштиту деце у Великој Британији:
„Јасно је да то више није нова претња. Већ неко време видимо како се деца заводе, видимо како починиоци праве слике по својим спецификацијама, видимо производњу слика уз помоћ вештачке интелигенције зарад комерцијалне добити – све то нормализује силовање и злостављање стварне деце.“
Док владе широм света покушавају да регулишу друштвене мреже и донесу законе за заштиту деце, стручњаци упозоравају да компаније које развијају вештачку интелигенцију још увек нису под потпуном контролом, што оставља простор за злоупотребу.
Свака тако генерисана слика не само да нарушава безбедност детета на мрежи, већ подрива и његову безбедност у стварном животу, чинећи ту технолошку претњу хитним и неодложним проблемом.
Рупа у закону ЕУ и растућа забринутост
На интернету се месечно подели око 3.000 слика злостављања деце које је генерисала вештачка интелигенција, од којих више од 500 приказује најозбиљнију врсту педофилије.
Из тог истраживања сазнаје се и да више од 1.300 слика приказује децу узраста између седам и десет година, према подацима Интернет Воч фондације. Tа добротворна организација указује и да неке слике користе стварну децу чија су лица и тела искоришћена за обуку модела вештачке интелигенције, али та деца нису именована.
Нови закони ЕУ о сексуалном злостављању деце сада обухватају и интернет фотографије, укључујући и оне генерисане вештачком интелигенцијом.
Поред тога, Европски парламент је у јулу 2025. усвојио став који јасно криминализује све облике материјала који приказује сексуално злостављање деце (CSAM), укључујући и материјал који је генерисан вештачком интелигенцијом. Тај став одбацује изузеће за личну употребу, наглашавајући да сваки облик CSAM-а наноси штету и подстиче потражњу за таквим садржајем.
Међутим, Савет ЕУ је у децембру 2024. усвојио став који садржи забрињавајући пропуст: дозвољава поседовање AI-генерисаног CSAM-а за „личну употребу“. Организације као што је Интернет Воч фондација оштро се противе том изузећу, истичући да оно легитимизује злоупотребу и отежава спровођење закона.
Преговори око усаглашавања различитих ставова између Европског парламента и Савета ЕУ тренутно су у току. Већ сад је јасно да ће нови закони ЕУ значајно ојачати правни оквир за борбу против сексуалног злостављања деце на интернету, укључујући и слике генерисане вештачком интелигенцијом.
Глобални проблем који захтева хитну реакцију
Истраживање Универзитета у Единбургу открило је да више од 300 милиона деце годишње постане жртва сексуалне експлоатације и злостављања путем интернета. Према подацима, 12,6% деце широм света било је изложено сексуалном злостављању на интернету, што представља око 302 милиона младих. Истраживање показује и да је један од девет мушкараца у САД признао да је починио неки облик онлајн злостављања деце.
„То је глобална здравствена пандемија која је предуго остала сакривена“, изјавио је Пол Стенфилд, извршни директор иницијативе Childlight. „Присутна је у свакој земљи, експоненцијално расте и захтева глобални одговор.“
„Морамо урадити много више заједно, на глобалном нивоу, укључујући специјализоване обуке за истражитеље, бољу размену података и техничку опрему како бисмо ефикасно водили борбу против те пандемије и штете која се наноси милионима младих живота широм света“, додао је Стивен Каванаг, извршни директор Интерпола.
Деца се не могу чекати.
АИ технологија представља стварну претњу, и то не само на дигиталном нивоу.
Стручњаци упозоравају да се нормализација насиља на интернету мора зауставити пре него што штета постане још већа. Земље широм света морају хитно реаговати, а глобална сарадња на свим нивоима је неопходна да би се заштитила деца.
СПН је раније писао о првом убиству уз помоћ АИ.
