Kaj je “chat control” – in kje smo danes

Kaj je “chat control”?

Gre za predlog EU uredbe, ki bi ponudnikom komunikacij in gostovanja vsebin (chat, e-mail, shrambe v oblaku, družbena omrežja) naložila oceno tveganj, odredbe za zaznavo in prijavo CSAM ter odstranjevanje takšnih vsebin. Najbolj sporna različica predvideva tudi skeniranje zasebnih sporočil, potencialno še pred šifriranjem (t. i. client-side scanning).

Septembra 2025 so se države članice pri najnovejši različici ponovno razdelile; nasprotniki opozarjajo na grožnjo šifriranju in množičnemu nadzoru, zato dogovora še ni. Tudi Evropski parlament poudarja, da morajo rešitve ščititi zasebnost in šifriranje, sicer dogovora ne bo.

Slovenski Informacijski pooblaščenec je večkrat opozoril, da splošno in nediskriminatorno skeniranje zasebnih komunikacij ni sprejemljivo.

Kaj to pomeni za industrijo za odrasle (praktično)

Tudi če uredba meri izključno na zlorabo otrok, je za naš sektor pomembno kako bodo ponudniki izvajali obveznosti. Največji vplivi:

• Zasebna sporočila & rezervacije: WhatsApp/Signal/Telegram, e-mail ali DM-ji, prek katerih potekajo rezervacije, bi lahko postali predmet samodejnega skeniranja (ob odredbi). Nevarnost: lažni pozitivni zadetki pri algoritmih (npr. napačna presoja starosti na fotografiji), kar vodi do blokade računov ali napačnih prijav.

• Overblocking in “hladilni učinek”: Ponudniki bi zaradi pravnega rizika raje brisali “na varno” – tudi popolnoma zakonite, konsenzualne vsebine odraslih, da se izognejo sankcijam.

• Strožji KYC in sledljivost: Platforme (OF, cam portali, gostovanja) bodo verjetno še bolj zaostrovale preverjanje identitete/starosti in hrambo podatkov. Posledici: več birokracije za ustvarjalce, višji stroški skladnosti in pogostejša začasna ustavitev računov ob “sumih”.

• Šifriranje in varnost: Če bi šli na “client-side” skeniranje, to oslabi šifriranje in poveča tveganje za zlorabe/uhajanje zasebnih podatkov (npr. zasebne galerije, pogovori s strankami).

Posebej za Slovenijo

Ker gre za uredbo, bi se – če bo sprejeta – neposredno uporabljala tudi v Sloveniji. Vloga Informacijskega pooblaščenca (IP RS) bo ključna pri razlagi sorazmernosti ukrepov in nadzoru nad ponudniki. IP RS je že javno opozoril proti množičnemu nadzoru.

V praksi bi lahko videli: strožje politike slovenskih/eu ponudnikov klepeta in gostovanja, več blokad računov zaradi “previdnega” moderiranja, več preverjanj identitete in hranjenja dokazil o starosti/consentu pri ustvarjalcih.

Kaj lahko naredijo delavci/ustvarjalci že zdaj

1) Ločite kanale: Za logistiko (urniki, lokacije, plačila) uporabljajte besedilne kanale brez pošiljanja slik, kjer je možno. Fotografije pošiljajte le po nuji, s preprostimi vodnimi žigi in brez obraza, če ni potrebno.

2) Consent & starost – vse na papirju: Za vse sodelavce/snemanja imejte pismene soglasne izjave in dokazila o starosti v varnem trezorju (off-cloud ali z močno enkripcijo).

3) “Red team” svoje profile: Preglejte, kaj bi algoritem lahko narobe razumel (naslovi, hashtagi, opisne besede). Zmanjšajte verjetnost lažnih pozitivnih zadetkov.

4) Varna orodja in nastavitve: Vključite dvodajno prijavo, skrbno upravljajte varnostne kopije, uporabljajte poslovne račune ločeno od zasebnih. Če platforma ponuja E2EE, jo pustite vklopljeno.

5) Finančna diverzifikacija: Ne zanašajte se na en sam kanal (ena platforma, en procesor plačil). Imejte rezervno izplačilno pot.

6) Pravočasno spremljajte razvoj predpisa: Stanje se premika iz meseca v mesec.