Odpowiedź na interpelację w sprawie patostreamingu Odpowiedź na interpelację nr 2639 w sprawie patostreamingu Odpowiadający: sekretarz stanu w Ministerstwie Edukacji Narodowej Katarzyna Lubnauer Warszawa, 21-05-2024 Szanowna Pani Poseł, odpowiadając na pytania Pani Poseł zawarte w interpelacji nr 2639 z dnia 29 kwietnia 2024 r., dotyczące patostreamingu, proszę przyjąć poniższe wyjaśnienia. Ad 1. Czy ministerstwo dostrzegło zjawisko powiększającej się liczby treści patostreamowych dostępnych w internecie, a łatwo dostępnych dla wszystkich użytkowników bez względu na wiek? Proszę o przekazanie analiz w tym zakresie, jeżeli ministerstwo nimi dysponuje. Ministerstwo Edukacji Narodowej (MEN) dostrzega problem patostreamingu i zamieszczania niebezpiecznych treści w sieci. Obecnie dostępne są opracowania, jak np. „Patostreamy w opinii polskich internautów“ wydane w 2019 r. przez NASK-PIB[1] czy publikacja pt. „Patotreści w Internecie. Raport o problemie“ z 2019 r. opublikowana na stronie internetowej Ośrodka Rozwoju Edukacji[2] dostępna pod linkiem[3]. Z danych tych wynika, że zdecydowana większość badanych osób, w tym nastolatków, słyszała o patotreściach. Według przeprowadzonego w 2018 r. przez NASK badania Nastolatki 3.0 Raport z ogólnopolskiego badania uczniów tzw. patotreści są oglądane przez młodzież z różnych powodów: z ciekawości, dla rozrywki, z nudów, przez przypadek czy w wyniku polecenia przez znajomego. Jak wynika z przeprowadzonego dwa lata później tego badania, nastolatki oglądają tzw. patostreamy częściej niż przypuszczają to ich rodzice (nastolatki – 27,1% vs. rodzice – 12,2%). W kolejnej edycji tego badania z 2023 r. aż 26% nastolatków wprost przyznaje, że ogląda tzw. patostreamy. Co ciekawe wzrasta liczba nastolatków, którzy nie potrafią jednoznacznie określić, czy to, co oglądają w internecie, to tzw. patostreamy. Wyniki najnowszego raportu z badania NASK Nastolatki 3.0 z 2023 r. są dostępne pod linkiem: https://www.nask.pl/pl/aktualnosci/5316,Co-robia-nasze-dzieci-w-sieci-czyli-Raport-z-najnowszego-badania-NASK-Nastolatki.html Ad 2. Czy ministerstwo zna skalę problemu umieszczania przez nieletnich na swoich kanałach w mediach społecznościowych krótkich filmików z nagranymi scenami przemocy wobec innych osób lub zwierząt? Czy ministerstwo posiada informację, czy ze strony platform pozwalających na udostępnianie takich treści prowadzona jest jakakolwiek działalność pozwalająca na szybkie reagowanie, zmierzająca do usuwania tych filmów i blokowania kont użytkowników? Zgodnie z ustawą z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa[4] Naukowa i Akademicka Sieć Komputerowa – Państwowy Instytut Badawczy (NASK-PIB) została wskazana jako jeden z Zespołów Reagowania na Incydenty Komputerowe, tzw. CSIRT. Zespół Reagowania Na Nielegalne Treści w Internecie (www.dyżurnet.pl) realizuje zadanie CSIRT NASK w zakresie reagowania na nielegalne i szkodliwe treści w internecie, w czterech kategoriach: materiały przedstawiające seksualne wykorzystywanie dziecka; materiały przedstawiające twardą pornografię (treści przedstawiające przemoc czy posługiwanie się zwierzęciem); treści propagujące rasizm i ksenofobię; inne nielegalne treści[5]. Zespół dyżurnet.pl odpowiedzialny jest za obsługę i analizę zgłoszeń dotyczących nielegalnych treści w internecie oraz podejmowanie działań zaradczych, zmierzających do usunięcia lub zablokowania tychże treści oraz edukację i propagowanie świadomości nt. tego typu zagrożeń Jednocześnie zespół bierze udział w projektach krajowych i zagranicznych w zakresie badań nad klasyfikacją nielegalnych treści. Należy mieć na uwadze, że sprawami bezpieczeństwa w internecie zajmuje się Ministerstwo Cyfryzacji, które podobnie jak NASK do naruszania praw dzieci w cyberprzestrzeni podchodzi całościowo i do tej pory nie przeprowadzono badań dedykowanych wyłącznie zjawisku tworzenia treści szkodliwych, coraz częściej noszących nazwę tzw. patotreści. Warto wspomnieć, że działania mające na celu ochronę nieletnich przewiduje Akt o usługach cyfrowych – DSA (Digital Services Act), którego przepisy weszły w życie 17 lutego 2024 r. DSA nakazuje dostawcom platform internetowych dostępnych dla małoletnich wprowadzenie odpowiednich i proporcjonalnych środków, aby zapewnić wysoki poziom prywatności, bezpieczeństwa i ochrony małoletnich w ramach świadczonych przez siebie usług. Komisja Europejska po konsultacji z Radą ds. Usług Cyfrowych (złożoną z krajowych organów regulacyjnych) wyda wytyczne dotyczące stosowania takich środków, co zapewni istotną pomoc w kształtowaniu mechanizmów, w tym weryfikacji wieku, zapewniających ochronę dzieci, ale i zarazem poszanowanie ochrony prywatności. Na podstawie przepisów DSA największe platformy internetowe, zwane VLOP (Very Large Online Platforms), mają również dodatkowy zakres obowiązków, do których należą m.in.: obligatoryjna weryfikacja wieku użytkowników czy analizy na temat wpływu treści szkodliwych na małoletnich. W powyżej opisane działania może bez wątpienia wpisywać się szybkie reagowanie zmierzające do usuwania filmów prezentujących szkodliwe treści i blokowanie kont rozpowszechniających tego rodzaju treści. Na podstawie tej regulacji wielkie platformy internetowe usuwają już zgłoszenia kierowane z dyżurnet.pl, jednak pełne wdrożenie DSA z pewnością znacznie poprawi efektywność działania. Przyczyni się do tego w szczególności wyznaczenie koordynatora ds. usług cyfrowych i zaufanych podmiotów sygnalizujących. W walce z treściami bezprawnymi i szkodliwymi konieczne jest także mobilizowanie branży influencerów oraz sponsorów, aby sprzeciwiali się monetyzacji szkodliwych treści oraz by podejmowali aktywną współpracę z podmiotami walczącymi o bezpieczeństwo dzieci w cyberprzestrzeni. Zadania te będą kontynuowane w przyszłości jako bardzo ważny aspekt realizacji Strategii Europejskiej „Better Internet for Children“, która szczególnie podkreśla wagę walki ze szkodliwymi treściami. Tematyka patostreamów jest szczególnie obecna w ramach szkoleń Policji realizowanych przez Dział Profilaktyki Cyberzagrożeń razem z dyżurnet.pl. Ponadto tematyka patostreamów jest elementem realizowanych lekcji dla szkół, które dotykają obszaru problematyki szkodliwych treści podejmowanych zarówno w ramach misji NASK, jak również w ramach działań Polskiego Centrum Programu Safer Internet – koordynowanego przez NASK. Ad 3. Czy ministerstwo zamierza kontynuować zainicjowane w ubiegłej kadencji cykle spotkań edukacyjnych dla młodzieży, w których uczestniczą przedstawiciele administracji rządowej, samorządowej oraz osoby z wydziałów walki z cyberprzestępczością Policji oraz NASK? Jeśli tak, to w jakich terminach oraz jakich miejscach będą odbywać się takie spotkania? Na podstawie informacji uzyskanych od Ministerstwa Cyfryzacji poniżej przedstawiamy listę szkoleń zorganizowanych przez NASK w 2023 r. oraz planowanych w 2024 r. działań: Szkolenia dla funkcjonariuszy Policji Przeprowadzone: · 11.12.2023 r., online: 4-godzinne szkolenie, w tym „Zagrożenia w mediach społecznościowych“ (z uwzględnieniem treści szkodliwych oraz patostreamów) dla specjalistów ds. profilaktyki oraz specjalistów ds. nieletnich we współpracy z komendą wojewódzką w Gdańsku (17 uczestników); · 21.02.2024 r., Warszawa: całodzienne szkolenie dla specjalistów ds. profilaktyki, specjalistów ds. nieletnich i oficerów prasowych garnizonu stołecznego Policji. Jednym z 7 omawianych tematów były patostreamy. (ok. 50 uczestników) (Szkolenie dla funkcjonariuszy garnizonu stołecznego Policji | Cyberprofilaktyka NASK); · 4.04.2024 r., Niwki (woj. opolskie) – „Zagrożenia w mediach społecznościowych“ (z uwzględnieniem treści szkodliwych oraz patostreamów) dla funkcjonariuszy Policji (specjaliści ds. profilaktyki, specjaliści ds. nieletnich) we współpracy z komendą miejską w Opolu (ok. 25 uczestników). Planowane: · 22.05.2024 r., Legionowo: prelekcja „Zagrożenia w mediach społecznościowych“ (z uwzględnieniem treści szkodliwych oraz patostreamów) dla funkcjonariuszy Policji ds. profilaktyki społecznej oraz wykładowców szkół policyjnych podczas seminarium pn. „Nowe wyzwania dla współczesnej profilaktyki w obszarze cyberzagrożeń oraz handlu ludźmi ze szczególnym uwzględnieniem dzieci i młodzieży“ organizowanego przez Komendę Główną Policji (ok. 25 uczestników); · 11.06.2024 r., Sucha Beskidzka: całodzienne szkolenie dla funkcjonariuszy Policji (specjaliści ds. profilaktyki, specjaliści ds. nieletnich) we współpracy z Komendą Powiatową Policji w Suchej Beskidzkiej. Wśród 7 planowanych tematów są patostreamy. (ok. 50-60 uczestników); · 17.06.2024 r., Radom: całodzienne szkolenie dla funkcjonariuszy Policji (specjaliści ds. profilaktyki, specjaliści ds. nieletnich) we współpracy z Komendą Wojewódzką Policji w Radomiu. Wśród 7 planowanych tematów są patostreamy. (ok. 50-60 uczestników). Szkolenia dla nauczycieli i rodziców Przeprowadzone: · 15.11.2023 r., Niepołomice – spotkanie pt. „Zagrożenia w mediach społecznościowych“ (z uwzględnieniem treści szkodliwych oraz patostreamów) dla rodziców uczniów Szkoły Podstawowej w Niepołomicach; · 5.12.2023 r., online: „Zagrożenia w mediach społecznościowych“ (z uwzględnieniem treści szkodliwych oraz patostreamów) – zamknięte szkolenie dla pracowników rodziców Polskiego Holdingu Nieruchomości z siedzibą w Warszawie; · 7.02.2024 r., Garwolin – prelekcja „Zagrożenia w mediach społecznościowych“ (z uwzględnieniem treści szkodliwych oraz patostreamów) podczas konferencji „Dzieci i młodzież w przestrzeni cyfrowej – jak zrozumieć ich świat?“ zorganizowanej przez Komendę Powiatową Policji w Garwolinie (ok. 100 uczestników); · 14.02.2024 r., online: „Zagrożenia w mediach społecznościowych“ (z uwzględnieniem treści szkodliwych oraz patostreamów) – dla nauczycieli i specjalistów pracujących z dziećmi w ramach Dnia Bezpiecznego Internetu (359 uczestników); · 3.02.2024 r., Sucha Beskidzka – prelekcja „Zagrożenia w mediach społecznościowych“ (z uwzględnieniem treści szkodliwych oraz patostreamów) podczas konferencji „Uzależnienia – Cyberzagrożenia/Narkotyki“ zorganizowanej przez Komendę Powiatową Policji w Suchej Beskidzkiej (200 uczestników); · 23.04.2024 r., szkolenie dla uczestników OSEhero – „Współpraca szkoła–rodzice w obszarze bezpieczeństwa w sieci – jak działać, żeby się udało?” (z uwzględnieniem treści szkodliwych). Planowane: · 10.05.2024 r., online: „Zagrożenia w mediach społecznościowych“ (z uwzględnieniem treści szkodliwych oraz patostreamów) – zamknięte szkolenie dla pracowników rodziców Polskiego Holdingu Nieruchomości z siedzibą w Warszawie; · 11.06.2024 r., Sucha Beskidzka – „Zagrożenia w mediach społecznościowych“ z uwzględnieniem treści szkodliwych oraz patostreamów) – szkolenie otwarte dla rodziców we współpracy z Komendą Powiatową Policji w Suchej Beskidzkiej. Szkolenia dla uczniów Przeprowadzone: · 13.02.2024 r., Warszawa – lekcja nt. „Niebezpieczne oraz szkodliwe treści i cyberprzemoc“ (z uwzględnieniem patostreamów) – klasa III i V Szkoły Podstawowej nr 403 (45 uczniów); · 11.04.2024 r., Sucha Beskidzka – „Niebezpieczne oraz szkodliwe treści“ (z uwzględnieniem patostreamów) – klasy IV, V i VI Kanadyjskiej Szkoły Podstawowej w Warszawie (60 uczniów). Planowane: · W roku szkolnym 2024/2025 planowany jest cykl comiesięcznych lekcji online dedykowanych uczniom szkół podstawowych, które będą prowadzone przez specjalistów z Działu Profilaktyki Cyberzagrożeń. Jednym z 10 tematów będą treści szkodliwe z uwzględnieniem patotreści. Harmonogram lekcji online wraz z linkami do zapisów dla nauczycieli będą opublikowane na stronie Cyberprofilaktyka NASK na przełomie sierpnia/września 2024 r. Przygotowano następujące materiały edukacyjno-informacyjne: · gotowy scenariusz lekcji pt. „Co oglądamy w rozbitym lustrze? Królowa Śniegu i patostreamy“ – dostępny bezpłatnie na platformie OSE IT Szkoła, animacja, i broszura, · poradnik dla nauczycieli: „Szkodliwe treści w Internecie“, · poradnik dla rodziców: „Szkodliwe treści w Internecie: nie akceptuję, reaguję“. Patostreamy i inne szkodliwe treści w internecie w komunikacji: · https://it-szkola.edu.pl/news,art,484 · https://it-szkola.edu.pl/news,art,357 · https://it-szkola.edu.pl/news,art,361 · https://it-szkola.edu.pl/news,art,424 · https://ose.gov.pl/aktualnosci/wpis/bezpieczni-w-sieci-z-ose-patostreamy · https://ose.gov.pl/aktualnosci/wpis/badz-z-innej-bajki-o-cyberzagrozeniach-inaczej · https://ose.gov.pl/aktualnosci/wpis/temat-lekcji-szkodliwe-tresci-w-internecie. Ponadto przeprowadzane są wykłady i szkolenia z tematyki ochrony prywatności dzieci i młodzieży: · 25 kwietnia – Prywatność młodego pokolenia: prawo, praktyka i wyzwania. – Prezentacja podczas konferencji zorganizowanej przez prezesa UODO; · 10 maja – wykład dla studentów SWPS: Prywatność młodego pokolenia: prawo, praktyka i wyzwania; · 11 czerwca – szkolenie OIRP w Warszawie – nowe regulacje dotyczące usuwania nielegalnych treści w internecie (ze szczególnym uwzględnieniem projektu rozporządzenia ustanawiającego przepisy mające na celu zapobieganie niegodziwemu traktowaniu dzieci w celach seksualnych i jego zwalczanie (COM 2002/209). Zadania w zakresie edukacji i informacji w celu świadomego, bezpiecznego korzystania z internetu realizowane przez Ministerstwo Cyfryzacji i NASK będą kontynuowane w 2024 r. Ponadto, w tym roku Ministerstwo Cyfryzacji wraz z partnerami społecznymi przeprowadza szeroką dyskusję i wypracowuje rekomendacje w zakresie: zasadności wprowadzenia regulacji chroniących małoletnich przed szkodliwymi treściami w internecie; ustalenia kategorii wiekowych małoletnich, którzy wymagają ochrony, przedyskutowania zakresu definicji treści szkodliwych, wskazania podmiotów zobowiązanych oraz przeanalizowania optymalnych rozwiązań technicznych w zakresie weryfikacji wieku itp. Ad 4. Czy ministerstwo zamierza podjąć we współpracy z Ministerstwem Cyfryzacji działania mające na celu uświadomienie rodziców, wychowawców i dzieci o szkodliwości i tragicznych następstwach patostreamingu? Jeśli tak, kiedy działania te mogą zostać rozpoczęte? Ministerstwo Edukacji Narodowej pracuje obecnie nad strategicznym dokumentem pn. Polityka Cyfrowej Transformacji Edukacji (dokument ten miał być pierwotnie przygotowany przez poprzedni rząd w 2022 r.), w którym będą obecne również zagadnienia dotyczące bezpiecznego poruszania się w sieci i cyberbezpieczeństwa. Dokument ten będzie wyznaczał strategiczne kierunki działań w ramach transformacji cyfrowej edukacji, które będą podstawą do uruchamiania konkretnych projektów i przedsięwzięć. Ponadto funkcjonujący w Polsce system oświaty uwzględnia już teraz aspekt bezpiecznego korzystania z treści internetowych i zapewnia m.in.: wychowanie rozumiane jako wspieranie dziecka w rozwoju ku pełnej dojrzałości w sferze fizycznej, emocjonalnej, intelektualnej, duchowej i społecznej, wzmacniane i uzupełniane przez działania z zakresu profilaktyki problemów dzieci i młodzieży; kształtowanie u uczniów postaw prospołecznych, w tym przez możliwość udziału w działaniach z zakresu wolontariatu, sprzyjających aktywnemu uczestnictwu uczniów w życiu społecznym; utrzymywanie bezpiecznych i higienicznych warunków nauki, wychowania i opieki w szkołach i placówkach; upowszechnianie wśród dzieci i młodzieży wiedzy o bezpieczeństwie oraz kształtowanie właściwych postaw wobec zagrożeń, w tym związanych z korzystaniem z technologii informacyjno-komunikacyjnych, i sytuacji nadzwyczajnych; kształtowanie u uczniów umiejętności sprawnego posługiwania się technologiami informacyjno-komunikacyjnymi. W powyższym zakresie system oświaty mogą wspierać: organizacje pozarządowe, w tym organizacje harcerskie; instytuty badawcze; instytucje kultury; podmioty prowadzące statutową działalność w zakresie oświaty i wychowania. Także nauczyciele w swoich działaniach dydaktycznych, wychowawczych i opiekuńczych mają obowiązek kierowania się dobrem uczniów, troską o ich zdrowie, postawę moralną i obywatelską, z poszanowaniem godności osobistej ucznia. Ponadto edukacja w zakresie bezpiecznego korzystania z internetu (patologie, treści szkodliwe w internecie) została uwzględniona w materiałach edukacyjnych udostępnionych na prowadzonej przez MEN Zintegrowanej Platformie Edukacyjnej[6]. Podobnie na stronie Ośrodka Rozwoju Edukacji upowszechnianie są informacje na temat bezpieczeństwa w sieci[7]. Kompleksowość zagadnienia zbyt powszechnego dostępu do treści szkodliwych wymaga współpracy ministra edukacji z innymi resortami, w szczególności z ministrem cyfryzacji, w celu wzmocnienia edukacji kierowanej do dzieci, w tym na temat treści szkodliwych czy cyberhigieny. Zarówno Ministerstwo Cyfryzacji, jak i w szczególności jednostki jemu podległe lub nadzorowane, w tym NASK, mają wieloletnie doświadczenie we współpracy dotyczącej ochrony przed treściami nieodpowiednimi w sieci z placówkami edukacyjnymi, pracownikami tego sektora (nauczycielami i wychowawcami) i co najważniejsze – z dziećmi i młodzieżą. Mając na uwadze wskazane powyżej działania można uznać, że są one już prowadzone niezależnie od ram prawnych współpracy międzyresortowej. Z wyrazami szacunku Z upoważnienia Ministra Edukacji Katarzyna Lubnauer Sekretarz Stanu [1] https://cyberprofilaktyka.pl/badania/RAPORT_Patostreamy.pdf [2] jednostka podległa ministrowi edukacji [3] https://fdds.pl/_Resources/Persistent/a/9/d/3/a9d3f60edf0bfabffe0276837d9fca36a1574f0d/fdds-raport-patotresc-www.pdf [4] t.j. Dz. U. 2023 poz. 913 z późn. zm. [5] treści niedotyczące żadnej z powyższych kategorii np.: propagowanie lub pochwalanie zachowań o charakterze pedofilskim, uwodzenie dziecka poniżej 15 r.ż. przez internet [6] https://zpe.gov.pl/b/tresci-szkodliwe-w-internecie/PINZ4qDtm [7] https://www.ore.edu.pl/2023/03/bezpieczenstwo-w-sieci/