Interpelacja nr 5704
Interpelacja w sprawie wykorzystania narzędzi sztucznej inteligencji (AI) w kanale tematycznym OFF Radio Kraków
Zgłaszający:
•
Adresat:
Cyfryzacja i Technologie (100%)
Treść wystąpienia poselskiego
Interpelacja w sprawie wykorzystania narzędzi sztucznej inteligencji (AI) w kanale tematycznym OFF Radio Kraków
Interpelacja nr 5704
do ministra kultury i dziedzictwa narodowego
w sprawie wykorzystania narzędzi sztucznej inteligencji (AI) w kanale tematycznym OFF Radio Kraków
Zgłaszający: Daria Gosek-Popiołek
Data wpływu: 22-10-2024
Szanowna Pani Ministro,
zgodnie z ustawą z dnia 29 grudnia 1992 r. o radiofonii i telewizji do zadań radiofonii i telewizji należą: dostarczanie informacji; udostępnianie dóbr kultury i sztuki; ułatwianie korzystania z oświaty, sportu i dorobku nauki; upowszechnianie edukacji obywatelskiej; dostarczanie rozrywki; popieranie krajowej twórczości audiowizualnej. Na pracujących w mediach dziennikarzy nałożone są szczególne obowiązki wynikające ze społecznej doniosłości ich zawodu. To służba społeczeństwu i państwu, postępowanie zgodnie z etyką zawodową oraz zachowanie szczególnej staranności i rzetelności w pracy dziennikarskiej.
Niestety niedawne oświadczenie redaktora naczelnego Radia Kraków Pana Marcina Pulita stoi według mnie w sprzeczności z tymi zasadami. W dniu 21.10.2024 r. Pan redaktor Pulit poinformował, że kanał tematyczny OFF Radio Kraków będzie od teraz niemal w całości tworzony przez narzędzia sztucznej inteligencji (AI). W ramach „eksperymentu” badawczo-medialnego dziennikarze mają zostać zastąpieni przez postacie stworzone przez AI, które, oprócz przygotowywania playlist (co obecnie jest już całkowicie zautomatyzowanym procesem), mają także prezentować własne (sic!) komentarze dotyczące m.in. trendów w świecie kina, muzyki i mody, nowych technologii, a także tematów związanych z tożsamością, kulturą queer i wpływem mediów na społeczeństwo.
W przekonaniu moim, a przede wszystkim środowiska zawodowych dziennikarzy i dziennikarek, to bardzo niebezpieczny precedens. Rodzi on pytania o odpowiedzialność za treści tworzone przez publiczną rozgłośnię oraz etykę i misję mediów publicznych, której publiczne media powinny bezwzględnie przestrzegać.
Co więcej warto podkreślić, że modele językowe AI w obecnej formie nie generują autorskich treści, ale opierają się na treściach generycznych. Polskojęzyczna AI jest pod tym kątem szczególnie wtórna, a jej możliwości twórcze pozostawiają wiele do życzenia. Wreszcie pamiętajmy, że modele językowe opierają się m.in. na rachunku prawdopodobieństwa co do użycia danych sformułowań, kolokacji czy wyciąganych wniosków. Służą więc raczej utrzymaniu status quo, niż pogłębionej obserwacji oraz krytycznemu myśleniu, które stanowią esencję pracy dziennikarskiej.
Wreszcie kwestia kluczowa: nie możemy dopuścić do tego, aby nasze sposoby myślenia, rozumienia i interpretacji świata były wyznaczane przez algorytmy. Proces ten ma już miejsce w obrębie mediów społecznościowych, co w praktyce prowadzi do powstawania baniek informacyjnych, a tym samym coraz większych podziałów społecznych. Ich druzgocący wpływ na nasze demokracje możemy zaobserwować na co dzień. Zastąpienie dziennikarzy pracą AI jest w tej perspektywie jest nie tylko głęboko nieetyczne, ale i szkodliwe biorąc pod uwagę konstytucyjną misję mediów publicznych.
W związku z powyższym uprzejmie proszę o odpowiedź na pytania:
1. Czy w opinii Ministerstwa Kultury i Dziedzictwa Narodowego fakt zastąpienia dziennikarzy wygenerowanymi przez AI „postaciami” nie stoi w sprzeczności z ustawami regulującymi funkcjonowanie mediów, w tym Konstytucją RP?
2. Jakie działania (zarówno interwencyjne jak i legislacyjne) planuje podjąć Ministerstwo Kultury i Dziedzictwa Narodowego w sprawie wpływu AI na model funkcjonowania mediów i dziennikarzy w Polsce?
Z wyrazami szacunku
Daria Gosek-Popiołek
Interpelacja nr 5704
do ministra kultury i dziedzictwa narodowego
w sprawie wykorzystania narzędzi sztucznej inteligencji (AI) w kanale tematycznym OFF Radio Kraków
Zgłaszający: Daria Gosek-Popiołek
Data wpływu: 22-10-2024
Szanowna Pani Ministro,
zgodnie z ustawą z dnia 29 grudnia 1992 r. o radiofonii i telewizji do zadań radiofonii i telewizji należą: dostarczanie informacji; udostępnianie dóbr kultury i sztuki; ułatwianie korzystania z oświaty, sportu i dorobku nauki; upowszechnianie edukacji obywatelskiej; dostarczanie rozrywki; popieranie krajowej twórczości audiowizualnej. Na pracujących w mediach dziennikarzy nałożone są szczególne obowiązki wynikające ze społecznej doniosłości ich zawodu. To służba społeczeństwu i państwu, postępowanie zgodnie z etyką zawodową oraz zachowanie szczególnej staranności i rzetelności w pracy dziennikarskiej.
Niestety niedawne oświadczenie redaktora naczelnego Radia Kraków Pana Marcina Pulita stoi według mnie w sprzeczności z tymi zasadami. W dniu 21.10.2024 r. Pan redaktor Pulit poinformował, że kanał tematyczny OFF Radio Kraków będzie od teraz niemal w całości tworzony przez narzędzia sztucznej inteligencji (AI). W ramach „eksperymentu” badawczo-medialnego dziennikarze mają zostać zastąpieni przez postacie stworzone przez AI, które, oprócz przygotowywania playlist (co obecnie jest już całkowicie zautomatyzowanym procesem), mają także prezentować własne (sic!) komentarze dotyczące m.in. trendów w świecie kina, muzyki i mody, nowych technologii, a także tematów związanych z tożsamością, kulturą queer i wpływem mediów na społeczeństwo.
W przekonaniu moim, a przede wszystkim środowiska zawodowych dziennikarzy i dziennikarek, to bardzo niebezpieczny precedens. Rodzi on pytania o odpowiedzialność za treści tworzone przez publiczną rozgłośnię oraz etykę i misję mediów publicznych, której publiczne media powinny bezwzględnie przestrzegać.
Co więcej warto podkreślić, że modele językowe AI w obecnej formie nie generują autorskich treści, ale opierają się na treściach generycznych. Polskojęzyczna AI jest pod tym kątem szczególnie wtórna, a jej możliwości twórcze pozostawiają wiele do życzenia. Wreszcie pamiętajmy, że modele językowe opierają się m.in. na rachunku prawdopodobieństwa co do użycia danych sformułowań, kolokacji czy wyciąganych wniosków. Służą więc raczej utrzymaniu status quo, niż pogłębionej obserwacji oraz krytycznemu myśleniu, które stanowią esencję pracy dziennikarskiej.
Wreszcie kwestia kluczowa: nie możemy dopuścić do tego, aby nasze sposoby myślenia, rozumienia i interpretacji świata były wyznaczane przez algorytmy. Proces ten ma już miejsce w obrębie mediów społecznościowych, co w praktyce prowadzi do powstawania baniek informacyjnych, a tym samym coraz większych podziałów społecznych. Ich druzgocący wpływ na nasze demokracje możemy zaobserwować na co dzień. Zastąpienie dziennikarzy pracą AI jest w tej perspektywie jest nie tylko głęboko nieetyczne, ale i szkodliwe biorąc pod uwagę konstytucyjną misję mediów publicznych.
W związku z powyższym uprzejmie proszę o odpowiedź na pytania:
1. Czy w opinii Ministerstwa Kultury i Dziedzictwa Narodowego fakt zastąpienia dziennikarzy wygenerowanymi przez AI „postaciami” nie stoi w sprzeczności z ustawami regulującymi funkcjonowanie mediów, w tym Konstytucją RP?
2. Jakie działania (zarówno interwencyjne jak i legislacyjne) planuje podjąć Ministerstwo Kultury i Dziedzictwa Narodowego w sprawie wpływu AI na model funkcjonowania mediów i dziennikarzy w Polsce?
Z wyrazami szacunku
Daria Gosek-Popiołek
Odpowiedź urzędowa
Podsekretarz stanu Sławomir Rogowski
Audyt odpowiedzi: Wskaźnik lania wody & konkretności
Bardzo konkretna
Automatyczna analiza lingwistyczno-statystyczna pisma resortu
Lanie wody
30%
Konkretność
70%
Odpowiedź wysoce rzeczowa – zawiera liczne dane twarde, kwoty, daty lub bezpośrednie odniesienie do zadanych pytań.
Twarde liczby / kwoty
0 kwot, 0 %
Precyzyjne daty
3
Odpowiedź na punkty
Brak podziału
Gęstość faktów
4.7 / 1k zn.
- Wymienia precyzyjne daty lub terminy (3)
Urzędowe załączniki i odpowiedzi:
Pełna treść wyekstrahowana z załącznika PDF (odpowiedź urzędowa)
4494 znaków
Informacja dotycząca zasad przetwarzania danych osobowych przez Ministra Kultury i Dziedzictwa Narodowego oraz praw osób,
których dane są przetwarzane została zamieszczona na stronie http://bip.mkidn.gov.pl w zakładce ochrona danych osobowych.
+48 22 42 10 100 Ministerstwo Kultury i Dziedzictwa Narodowego
esp@kultura.gov.pl ul. Krakowskie Przedmieście 15
www.gov.pl/kultura 00-071 Warszawa
Hanna Wróblewska
Pan
Szymon Hołownia
Marszałek Sejmu Rzeczypospolitej Polskiej
Szanowny Panie Marszałku,
odpowiadając na interpelację nr 5704 posłanki Darii Gosek-Popiołek z 29 października 2024
roku w sprawie wykorzystania narzędzi sztucznej inteligencji (AI) w kanale tematycznym
OFF Radio Kraków, uprzejmie proszę o przyjęcie następujących wyjaśnień.
Do Ministerstwa Kultury i Dziedzictwa Narodowego wpłynęły informacje dotyczące
działalności OFF Radia Kraków w kontekście zastąpienia dziennikarzy redakcji przez
sztuczną inteligencję (AI). Z uwagi jednak na to, że zgodnie z art. 13 ust. 1 w zw. z art. 14 ust.
1 ustawy z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 ze zm.,
dalej jako: urit) nadawca kształtuje program samodzielnie i ponosi za niego
odpowiedzialność, a nałożenie na nadawcę obowiązku lub zakazu rozpowszechniania
określonej audycji lub przekazu może nastąpić wyłącznie na podstawie ustawy, MKiDN nie
zwracało się bezpośrednio do nadawcy o wyjaśnienia. Należy przy tym wskazać,
że kompetencje co do zgodności treści emitowanych przez nadawców posiada Krajowa Rada
Radiofonii i Telewizji, a zgodnie z art. 53 urit Przewodniczący Krajowej Rady Radiofonii
i Telewizji ma możliwość nałożenia na nadawcę kary administracyjnej w przypadku, gdy ten
narusza przepisy ustawy o radiofonii i telewizji.
Jednocześnie wskazuję, że Minister Kultury i Dziedzictwa Narodowego, działając jako
Walne Zgromadzenie spółki, zgodnie z przepisami art. 3751 Kodeksu spółek handlowych, nie
może wydawać zarządzającemu, tj. likwidatorowi (zgodnie z art. 466 w związku z art. 368 § 1
Ksh), wiążących poleceń dotyczących prowadzenia spraw spółki, do których należą m.in.
sprawy programowe. Ponadto art. 29 ust. 2 ustawy o radiofonii i telewizji stanowi, że zarząd
spółki publicznej radiofonii i telewizji nie jest związany poleceniami i zakazami
ustanowionymi przez walne zgromadzenie, jeżeli dotyczą one treści programu. Dodatkowo
wskazuję, że likwidator Spółki przekazał informację, że realizowany na antenie Radia
Kraków OFF tymczasowy projekt tworzenia radia z użyciem narzędzi sztucznej inteligencji
został zamknięty.
Niezależnie od powyższego, MKiDN od pewnego czasu obserwuje wpływ generatywnej
sztucznej inteligencji (AI) na rynek mediów i dziennikarzy. 12 lipca 2024 r. zostało
opublikowane w dzienniku urzędowym Komisji Europejskiej Rozporządzenie o sztucznej
inteligencji (AI Act), które ma na celu zapewnienie bezpiecznego i etycznego wykorzystania
technologii sztucznej inteligencji z uwzględnieniem praw obywateli oraz wspieranie
innowacji technologicznych. Nowe przepisy obejmują m.in. wymogi dotyczące
transparentności algorytmów, oznaczania treści generowanych przez sztuczną inteligencję
oraz zasad zarządzania cyklem życia systemów sztucznej inteligencji. Za wdrożenie
przepisów rozporządzenia do polskiego porządku prawnego odpowiedzialne jest
Ministerstwo Cyfryzacji.
-- 1 of 2 --
+48 22 42 10 100 Ministerstwo Kultury i Dziedzictwa Narodowego
esp@kultura.gov.pl ul. Krakowskie Przedmieście 15
www.gov.pl/kultura 00-071 Warszawa
Jednocześnie art. 50 rozporządzenia nakłada na dostawców obowiązki w zakresie
przejrzystości dla dostawców i podmiotów stosujących niektóre systemy AI. Podmioty
stosujące system AI, który generuje obrazy, treści audio lub wideo stanowiące treści
deepfake, lub który manipuluje takimi obrazami lub treściami, mają obowiązek ujawnienia,
że treści te zostały sztucznie wygenerowane lub zmanipulowane. Podobnie w przypadku
podmiotów stosujących system AI, który generuje tekst publikowany w celu informowania
społeczeństwa o sprawach leżących w interesie publicznym lub manipulowania takim
tekstem, mają obowiązek ujawnienia, że tekst został sztucznie wygenerowany lub
zmanipulowany.
Mając na uwadze powyższe, MKiDN nie wyklucza, że w najbliższej przyszłości konieczna
będzie również zmiana ustawy o radiofonii i telewizji w celu dostosowania jej do
zmieniającego się otoczenia cyfrowego, szczególnie w kontekście AI.
Z poważaniem
z up. MINISTRA KULTURY
I DZIEDZICTWA NARODOWEGO
PODSEKRETARZ STANU
Sławomir Rogowski
-- 2 of 2 --
których dane są przetwarzane została zamieszczona na stronie http://bip.mkidn.gov.pl w zakładce ochrona danych osobowych.
+48 22 42 10 100 Ministerstwo Kultury i Dziedzictwa Narodowego
esp@kultura.gov.pl ul. Krakowskie Przedmieście 15
www.gov.pl/kultura 00-071 Warszawa
Hanna Wróblewska
Pan
Szymon Hołownia
Marszałek Sejmu Rzeczypospolitej Polskiej
Szanowny Panie Marszałku,
odpowiadając na interpelację nr 5704 posłanki Darii Gosek-Popiołek z 29 października 2024
roku w sprawie wykorzystania narzędzi sztucznej inteligencji (AI) w kanale tematycznym
OFF Radio Kraków, uprzejmie proszę o przyjęcie następujących wyjaśnień.
Do Ministerstwa Kultury i Dziedzictwa Narodowego wpłynęły informacje dotyczące
działalności OFF Radia Kraków w kontekście zastąpienia dziennikarzy redakcji przez
sztuczną inteligencję (AI). Z uwagi jednak na to, że zgodnie z art. 13 ust. 1 w zw. z art. 14 ust.
1 ustawy z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 ze zm.,
dalej jako: urit) nadawca kształtuje program samodzielnie i ponosi za niego
odpowiedzialność, a nałożenie na nadawcę obowiązku lub zakazu rozpowszechniania
określonej audycji lub przekazu może nastąpić wyłącznie na podstawie ustawy, MKiDN nie
zwracało się bezpośrednio do nadawcy o wyjaśnienia. Należy przy tym wskazać,
że kompetencje co do zgodności treści emitowanych przez nadawców posiada Krajowa Rada
Radiofonii i Telewizji, a zgodnie z art. 53 urit Przewodniczący Krajowej Rady Radiofonii
i Telewizji ma możliwość nałożenia na nadawcę kary administracyjnej w przypadku, gdy ten
narusza przepisy ustawy o radiofonii i telewizji.
Jednocześnie wskazuję, że Minister Kultury i Dziedzictwa Narodowego, działając jako
Walne Zgromadzenie spółki, zgodnie z przepisami art. 3751 Kodeksu spółek handlowych, nie
może wydawać zarządzającemu, tj. likwidatorowi (zgodnie z art. 466 w związku z art. 368 § 1
Ksh), wiążących poleceń dotyczących prowadzenia spraw spółki, do których należą m.in.
sprawy programowe. Ponadto art. 29 ust. 2 ustawy o radiofonii i telewizji stanowi, że zarząd
spółki publicznej radiofonii i telewizji nie jest związany poleceniami i zakazami
ustanowionymi przez walne zgromadzenie, jeżeli dotyczą one treści programu. Dodatkowo
wskazuję, że likwidator Spółki przekazał informację, że realizowany na antenie Radia
Kraków OFF tymczasowy projekt tworzenia radia z użyciem narzędzi sztucznej inteligencji
został zamknięty.
Niezależnie od powyższego, MKiDN od pewnego czasu obserwuje wpływ generatywnej
sztucznej inteligencji (AI) na rynek mediów i dziennikarzy. 12 lipca 2024 r. zostało
opublikowane w dzienniku urzędowym Komisji Europejskiej Rozporządzenie o sztucznej
inteligencji (AI Act), które ma na celu zapewnienie bezpiecznego i etycznego wykorzystania
technologii sztucznej inteligencji z uwzględnieniem praw obywateli oraz wspieranie
innowacji technologicznych. Nowe przepisy obejmują m.in. wymogi dotyczące
transparentności algorytmów, oznaczania treści generowanych przez sztuczną inteligencję
oraz zasad zarządzania cyklem życia systemów sztucznej inteligencji. Za wdrożenie
przepisów rozporządzenia do polskiego porządku prawnego odpowiedzialne jest
Ministerstwo Cyfryzacji.
-- 1 of 2 --
+48 22 42 10 100 Ministerstwo Kultury i Dziedzictwa Narodowego
esp@kultura.gov.pl ul. Krakowskie Przedmieście 15
www.gov.pl/kultura 00-071 Warszawa
Jednocześnie art. 50 rozporządzenia nakłada na dostawców obowiązki w zakresie
przejrzystości dla dostawców i podmiotów stosujących niektóre systemy AI. Podmioty
stosujące system AI, który generuje obrazy, treści audio lub wideo stanowiące treści
deepfake, lub który manipuluje takimi obrazami lub treściami, mają obowiązek ujawnienia,
że treści te zostały sztucznie wygenerowane lub zmanipulowane. Podobnie w przypadku
podmiotów stosujących system AI, który generuje tekst publikowany w celu informowania
społeczeństwa o sprawach leżących w interesie publicznym lub manipulowania takim
tekstem, mają obowiązek ujawnienia, że tekst został sztucznie wygenerowany lub
zmanipulowany.
Mając na uwadze powyższe, MKiDN nie wyklucza, że w najbliższej przyszłości konieczna
będzie również zmiana ustawy o radiofonii i telewizji w celu dostosowania jej do
zmieniającego się otoczenia cyfrowego, szczególnie w kontekście AI.
Z poważaniem
z up. MINISTRA KULTURY
I DZIEDZICTWA NARODOWEGO
PODSEKRETARZ STANU
Sławomir Rogowski
-- 2 of 2 --