#
Sztuczna inteligencja w epoce cyfrowej #
Rezolucja Parlamentu Europejskiego z dnia 3 maja 2022 r. w sprawie sztucznej inteligencji w epoce cyfrowej (2020/2266(INI))
P9_TA(2022)0140 A9-0088/2022
Parlament Europejski,
– uwzględniając art. 4, 16, 26, 114, 169, 173, 179, 180, 181 i 187 Traktatu o funkcjonowaniu Unii Europejskiej,
– uwzględniając Kartę praw podstawowych Unii Europejskiej,
– uwzględniając Konwencję o prawach dziecka i uwagę ogólną nr 25 Komitetu Praw Dziecka z 2 marca 2021 r. w sprawie praw dzieci związanych z otoczeniem cyfrowym,
– uwzględniając zalecenie w sprawie etyki sztucznej inteligencji Organizacji Narodów Zjednoczonych do spraw Oświaty, Nauki i Kultury (UNESCO), przyjęte przez Konferencję Generalną UNESCO na jej 41. posiedzeniu 24 listopada 2021 r.,
– uwzględniając porozumienie międzyinstytucjonalne w sprawie lepszego stanowienia prawa z 13 kwietnia 2016 r.(1) oraz przedstawione przez Komisję wytyczne dotyczące lepszego stanowienia prawa,
– uwzględniając komunikat Komisji z 24 marca 2021 r. zatytułowany „Strategia UE na rzecz praw dziecka” (COM(2021)0142),
– uwzględniając swoją rezolucję z 7 października 2021 r. w sprawie stanu zdolności cyberobronnych UE(2),
– uwzględniając swoją rezolucję z 15 grudnia 2021 r. w sprawie wyzwań i perspektyw dotyczących wielostronnych systemów kontroli broni masowego rażenia i systemów rozbrojenia(3),
– uwzględniając rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 z 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych, RODO)(4),
– uwzględniając rozporządzenie Parlamentu Europejskiego i Rady (UE) 2021/694 z dnia 29 kwietnia 2021 r. ustanawiające program „Cyfrowa Europa” oraz uchylające decyzję (UE) 2015/2240(5),
– uwzględniając rozporządzenie Parlamentu Europejskiego i Rady (UE) 2021/695 z dnia 28 kwietnia 2021 r. ustanawiające Program ramowy w zakresie badań naukowych i innowacji „Horyzont Europa” oraz zasady uczestnictwa i upowszechniania obowiązujące w tym programie oraz uchylające rozporządzenia (UE) nr 1290/2013 i (UE) nr 1291/2013(6),
– uwzględniając wniosek z 21 kwietnia 2021 r. dotyczący rozporządzenia Parlamentu Europejskiego i Rady ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji (akt w sprawie sztucznej inteligencji) i zmieniającego niektóre akty ustawodawcze Unii (COM(2021)0206),
– uwzględniając wniosek z 25 listopada 2020 r. dotyczący rozporządzenia Parlamentu Europejskiego i Rady w sprawie europejskiego zarządzania danymi (akt w sprawie zarządzania danymi) (COM(2020)0767),
– uwzględniając rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1807 z dnia 14 listopada 2018 r. w sprawie ram swobodnego przepływu danych nieosobowych w Unii Europejskiej(7),
– uwzględniając rozporządzenie Parlamentu Europejskiego i Rady (UE) 2021/697 z dnia 29 kwietnia 2021 r. ustanawiające Europejski Fundusz Obronny i uchylające rozporządzenie (UE) 2018/1092(8),
– uwzględniając dyrektywę Parlamentu Europejskiego i Rady (UE) 2019/770 z dnia 20 maja 2019 r. w sprawie niektórych aspektów umów o dostarczanie treści cyfrowych i usług cyfrowych(9),
– uwzględniając rozporządzenie Rady (UE) 2021/1173 z dnia 13 lipca 2021 r. w sprawie ustanowienia Wspólnego Przedsięwzięcia w dziedzinie Europejskich Obliczeń Wielkiej Skali i uchylające rozporządzenie (UE) 2018/1488(10),
– uwzględniając komunikat Komisji z 25 kwietnia 2018 r. zatytułowany „Sztuczna inteligencja dla Europy” (COM(2018)0237),
– uwzględniając komunikat Komisji z 7 grudnia 2018 r. zatytułowany „Skoordynowany plan w sprawie sztucznej inteligencji” (COM(2018)0795),
– uwzględniając komunikat Komisji z 8 kwietnia 2019 r. zatytułowany „Budowanie zaufania do sztucznej inteligencji ukierunkowanej na człowieka” (COM(2019)0168),
– uwzględniając białą księgę Komisji z 19 lutego 2020 r. w sprawie sztucznej inteligencji – „Europejskie podejście do doskonałości i zaufania” (COM(2020)0065),
– uwzględniając zieloną księgę Komisji z 27 stycznia 2021 r. w sprawie starzenia się – „Wspieranie solidarności i odpowiedzialności między pokoleniami” (COM(2021)0050),
– uwzględniając komunikat Komisji z 19 lutego 2020 r. zatytułowany „Europejska strategia w zakresie danych” (COM(2020)0066),
– uwzględniając komunikat Komisji z 19 lutego 2020 r. zatytułowany „Kształtowanie cyfrowej przyszłości Europy” (COM(2020)0067),
– uwzględniając komunikat Komisji z 10 marca 2020 r. zatytułowany „Nowa strategia przemysłowa dla Europy” (COM(2020)0102) i komunikat z 5 maja 2021 r. zatytułowany „Aktualizacja nowej strategii przemysłowej z 2020 r. – tworzenie silniejszego jednolitego rynku sprzyjającego odbudowie Europy” (COM(2021)0350),
– uwzględniając komunikat Komisji z 30 września 2020 r. zatytułowany „Plan działania w dziedzinie edukacji cyfrowej na lata 2021–2027 – Nowe podejście do kształcenia i szkolenia w epoce cyfrowej” (COM(2020)0624),
– uwzględniając komunikat Komisji z 9 marca 2021 r. zatytułowany „Cyfrowy kompas na 2030 r.: europejska droga w cyfrowej dekadzie” (COM(2021)0118),
– uwzględniając wniosek z 15 września 2021 r. dotyczący decyzji Parlamentu Europejskiego i Rady ustanawiającej program polityki „Droga ku cyfrowej dekadzie” do 2030 r. (COM(2021)0574),
– uwzględniając badanie Komisji z 28 lipca 2020 r. zatytułowane „European enterprise survey on the use of technologies based on artificial intelligence” [„Badanie wśród europejskich przedsiębiorstw na temat stosowania technologii opartych na sztucznej inteligencji”],
– uwzględniając badanie Komisji z 26 listopada 2020 r. zatytułowane „Energy-efficient Cloud Computing Technologies and Policies for an Eco-friendly Cloud Market” [„Efektywne energetycznie technologie przetwarzania w chmurze i polityka na rzecz ekologicznego rynku chmury”],
– uwzględniając sprawozdanie Komisji dla Parlamentu Europejskiego, Rady i Europejskiego Komitetu Ekonomiczno-Społecznego z 19 lutego 2020 r. na temat wpływu sztucznej inteligencji, internetu rzeczy i robotyki na bezpieczeństwo i odpowiedzialność (COM(2020)0064),
– uwzględniając konkluzje Rady z 22 marca 2021 r. w sprawie strategii UE w zakresie cyberbezpieczeństwa na cyfrową dekadę,
– uwzględniając sprawozdanie grupy ekspertów wysokiego szczebla ds. sztucznej inteligencji z 8 kwietnia 2019 r. zatytułowane „Wytyczne w zakresie etyki dotyczące godnej zaufania sztucznej inteligencji”,
– uwzględniając sprawozdanie grupy ekspertów wysokiego szczebla ds. sztucznej inteligencji z 8 kwietnia 2019 r. pt. „Definicja sztucznej inteligencji: podstawowe możliwości i dziedziny zastosowania”,
– uwzględniając sprawozdanie grupy ekspertów wysokiego szczebla ds. sztucznej inteligencji z 26 czerwca 2019 r. zatytułowane „Zalecenia polityczne i inwestycyjne na rzecz wiarygodnej sztucznej inteligencji”,
– uwzględniając publikację UNESCO z marca 2019 r. zatytułowaną „I’d blush if I could: closing gender divides in digital skills through education” [„Zarumieniłabym się, gdybym potrafiła: niwelowanie różnic między płciami w umiejętnościach cyfrowych poprzez edukację”],
– uwzględniając sprawozdanie Agencji Praw Podstawowych Unii Europejskiej z 14 grudnia 2020 r. zatytułowane „Naprawić przyszłość. Sztuczna inteligencja a prawa podstawowe”,
– uwzględniając zalecenie Rady Organizacji Współpracy Gospodarczej i Rozwoju (OECD) z 22 maja 2019 r. w sprawie sztucznej inteligencji,
– uwzględniając platformę ONZ na rzecz dialogu na temat sztucznej inteligencji: światowy szczyt Międzynarodowego Związku Telekomunikacyjnego „AI for Good”,
– uwzględniając zasady grupy G-20 dotyczące sztucznej inteligencji z 9 czerwca 2019 r.,
– uwzględniając sprawozdanie Światowej Organizacji Zdrowia z 28 czerwca 2021 r. w sprawie sztucznej inteligencji w dziedzinie zdrowia i sześciu wytycznych dotyczących jej projektowania i użytkowania,
– uwzględniając opinię z inicjatywy własnej Europejskiego Komitetu Ekonomiczno-Społecznego z 31 maja 2017 r. zatytułowaną „Sztuczna inteligencja: wpływ sztucznej inteligencji na jednolity rynek (cyfrowy), produkcję, konsumpcję,
zatrudnienie i społeczeństwo”(11),
– uwzględniając sprawozdanie grupy ekspertów ds. odpowiedzialności i nowych technologii – Forum Nowych Technologii z 21 listopada 2019 r. zatytułowane „Odpowiedzialność w związku ze sztuczną inteligencją i innymi rozwijającymi się technologiami cyfrowymi”,
– uwzględniając publikację komitetu ad hoc ds. sztucznej inteligencji (CAHAI) Rady Europy z grudnia 2020 r. zatytułowaną „Towards Regulation of AI systems – Global perspectives on the development of a legal framework on Artificial Intelligence systems based on the Council of Europe’s standards on human rights, democracy and the rule of law” [„W kierunku regulacji systemów AI – globalne perspektywy dotyczące rozwoju ram prawnych dla systemów sztucznej inteligencji w oparciu o normy Rady Europy w dziedzinie praw człowieka, demokracji i praworządności”],
– uwzględniając dokument roboczy Europejskiego Instytutu Uniwersyteckiego z października 2020 r. zatytułowany „Models of Law and Regulation for AI” [„Modele przepisów prawa i regulacji dla AI”],
– uwzględniając wspólne sprawozdanie Trend Micro Research, Międzyregionalnego Instytutu Narodów Zjednoczonych ds. Badań nad Przestępczością i Wymiarem Sprawiedliwości oraz Europolu z 19 listopada 2020 r. zatytułowane „Malicious Uses and Abuses of Artificial Intelligence” [„Złośliwe zastosowania i nadużycia sztucznej inteligencji”],
– uwzględniając wytyczne polityczne Komisji na lata 2019–2024 zatytułowane „Unia, która mierzy wyżej – Mój program dla Europy”,
– uwzględniając wyrok Trybunału Sprawiedliwości Unii Europejskiej z 16 lipca 2020 r. w sprawie C-311/18 (Schrems II),
– uwzględniając swoją rezolucję z 16 lutego 2017 r. zawierającą zalecenia dla Komisji w sprawie przepisów prawa cywilnego dotyczących robotyki(12),
– uwzględniając swoją rezolucję z 1 czerwca 2017 r. w sprawie cyfryzacji europejskiego przemysłu(13),
– uwzględniając swoją rezolucję z 6 października 2021 r. w sprawie ram polityki bezpieczeństwa ruchu drogowego UE na lata 2021–2030 – zalecenia dotyczące kolejnych kroków w kierunku realizacji „wizji zero”(14),
– uwzględniając swoją rezolucję z 12 września 2018 r. w sprawie autonomicznych systemów uzbrojenia(15),
– uwzględniając swoją rezolucję z 12 lutego 2019 r. w sprawie kompleksowej europejskiej polityki przemysłowej w dziedzinie sztucznej inteligencji i robotyki(16),
– uwzględniając swoją rezolucję z 12 lutego 2020 r. w sprawie zautomatyzowanych procesów decyzyjnych – zagwarantowanie ochrony konsumenta oraz swobodnego przepływu towarów i usług(17),
– uwzględniając swoją rezolucję z 20 października 2020 r. z zaleceniami dla Komisji w sprawie systemu odpowiedzialności cywilnej za sztuczną inteligencję(18),
– uwzględniając swoją rezolucję z 20 października 2020 r. w sprawie praw własności intelektualnej w dziedzinie rozwoju technologii sztucznej inteligencji(19),
– uwzględniając swoją rezolucję z 20 października 2020 r. zawierającą zalecenia dla Komisji w sprawie ram aspektów etycznych sztucznej inteligencji, robotyki i powiązanych z nimi technologii(20),
– uwzględniając swoją rezolucję z 20 stycznia 2021 r. w sprawie sztucznej inteligencji: kwestie wykładni i stosowania prawa międzynarodowego, w zakresie, w jakim dotyczy ono UE, w dziedzinie zastosowań cywilnych i wojskowych oraz kwestie kompetencji państwa poza wymiarem sprawiedliwości w sprawach karnych(21),
– uwzględniając swoją rezolucję z 20 maja 2021 r. w sprawie kształtowania cyfrowej przyszłości Europy: usunięcie barier w funkcjonowaniu jednolitego rynku cyfrowego i lepsze wykorzystywanie AI z korzyścią dla europejskich konsumentów(22),
– uwzględniając swoją rezolucję z 25 marca 2021 r. w sprawie europejskiej strategii w zakresie danych(23),
– uwzględniając swoją rezolucję z 19 maja 2021 r. w sprawie sztucznej inteligencji w sektorze edukacji i kultury oraz w sektorze audiowizualnym(24),
– uwzględniając swoją rezolucję z 6 października 2021 r. w sprawie sztucznej inteligencji w prawie karnym i jej stosowania przez policję i organy wymiaru sprawiedliwości w sprawach karnych(25),
– uwzględniając badanie Dyrekcji Generalnej ds. Polityki Wewnętrznej Unii Europejskiej (DG IPOL) z czerwca 2021 r. zatytułowane „Artificial Intelligence diplomacy – Artificial Intelligence governance as a new European Union external policy tool” [„Dyplomacja w obszarze sztucznej inteligencji – zarządzanie sztuczną inteligencją jako nowe narzędzie polityki zewnętrznej Unii Europejskiej”],
– uwzględniając badanie DG IPOL z maja 2021 r. zatytułowane „Challenges and limits of an open source approach to Artificial Intelligence” [„Wyzwania i ograniczenia związane z podejściem do sztucznej inteligencji opartym na otwartym oprogramowaniu”],
– uwzględniając badanie DG IPOL z maja 2021 r. zatytułowane „Artificial Intelligence market and capital flows – AI and the financial sector at crossroads” [„Rynek sztucznej inteligencji i przepływy kapitałowe – AI i sektor finansowy na rozdrożu”],
– uwzględniając badanie DG IPOL z czerwca 2021 r. zatytułowane „Improving working conditions using Artificial Intelligence” [„Poprawa warunków pracy z wykorzystaniem sztucznej inteligencji”],
– uwzględniając badanie DG IPOL z maja 2021 r. zatytułowane „The role of Artificial Intelligence in the European Green Deal” [„Rola sztucznej inteligencji w Europejskim Zielonym Ładzie”],
– uwzględniając badanie DG IPOL z lipca 2021 r. zatytułowane „Artificial Intelligence in smart cities and urban mobility” [„Sztuczna inteligencja w inteligentnych miastach i mobilności miejskiej”],
– uwzględniając badanie DG IPOL z lipca 2021 r. zatytułowane „Artificial Intelligence and public services” [„Sztuczna inteligencja i usługi użyteczności publicznej”],
– uwzględniając badanie DG IPOL z lipca 2021 r. zatytułowane „European Union data challenge” [„Wyzwanie w zakresie danych w Unii Europejskiej”],
– uwzględniając badanie DG IPOL z czerwca 2020 r. zatytułowane „Opportunities of Artificial Intelligence” [„Możliwości stwarzane przez sztuczną inteligencję”],
– uwzględniając badanie DG IPOL z października 2021 r. zatytułowane „Europe’s Digital Decade and Autonomy” [„Cyfrowa dekada Europy i autonomia”],
– uwzględniając badanie DG IPOL ze stycznia 2022 r. zatytułowane „Identification and assessment of existing and draft EU legislation in the digital field” [„Identyfikacja i ocena istniejących przepisów i projektów przepisów UE w dziedzinie technologii cyfrowych”],
– uwzględniając badanie Dyrekcji Generalnej ds. Analiz Parlamentarnych (EPRS) z września 2020 r. zatytułowane „Civil liability regime for artificial intelligence – European added value assessment” [„System odpowiedzialności cywilnej za sztuczną inteligencję: ocena europejskiej wartości dodanej”],
– uwzględniając badanie Działu Prognoz Naukowych EPRS z grudnia 2020 r. zatytułowane „Data subjects, digital surveillance, AI and the future of work” [„Osoby, których dane dotyczą, nadzór cyfrowy, AI i przyszłość pracy”],
– uwzględniając badanie EPRS z września 2020 r. zatytułowane „European framework on ethical aspects of artificial intelligence, robotics and related technologies” [„Europejskie ramy aspektów etycznych sztucznej inteligencji, robotyki i powiązanych z nimi technologii”],
– uwzględniając badanie EPRS z marca 2020 r. zatytułowane „The ethics of artificial intelligence: Issues and initiatives” [„Etyka sztucznej inteligencji: problemy i inicjatywy”],
– uwzględniając badanie EPRS z czerwca 2020 r. zatytułowane „Artificial Intelligence: How does it work, why does it matter, and what can we do about it?” [„Sztuczna inteligencja: jak działa, dlaczego jest ważna i co możemy z tym zrobić?”],
– uwzględniając badanie EPRS z lipca 2020 r. zatytułowane „Artificial Intelligence and Law enforcement – Impact on Fundamental Rights” [„Sztuczna inteligencja i egzekwowanie prawa – wpływ na prawa podstawowe”],
– uwzględniając badanie EPRS z czerwca 2020 r. zatytułowane „The impact of the General Data Protection Regulation (GDPR) on artificial intelligence” [„Wpływ ogólnego rozporządzenia o ochronie danych (RODO) na sztuczną inteligencję”],
– uwzględniając badanie EPRS z kwietnia 2020 r. zatytułowane „The White Paper on Artificial Intelligence” [„Biała księga w sprawie sztucznej inteligencji”],
– uwzględniając badanie EPRS z września 2021 r. zatytułowane „Regulating facial recognition in the EU” [„Regulacje dotyczące rozpoznawania twarzy w UE”],
– uwzględniając badanie EPRS z lutego 2021 r. zatytułowane „The future of work: Trends, challenges and potential initiatives” [„Przyszłość pracy: trendy, wyzwania i potencjalne inicjatywy”],
– uwzględniając badanie EPRS z czerwca 2021 r. zatytułowane „Robo-advisors: How do they fit in the existing EU regulatory framework, in particular with regard to investor protection?” [Robo-doradcy – w jaki sposób wpisują się w istniejące ramy regulacyjne UE, w szczególności w zakresie ochrony inwestorów],
– uwzględniając badanie EPRS z września 2021 r. zatytułowane „China’s ambitions in artificial intelligence” [„Ambicje Chin w obszarze sztucznej inteligencji”],
– uwzględniając badanie EPRS z czerwca 2021 r. zatytułowane „What if we chose new metaphors for artificial intelligence?” [„A jeśli wybralibyśmy nowe metafory dla sztucznej inteligencji?”],
– uwzględniając badanie EPRS ze stycznia 2018 r. zatytułowane „Understanding artificial intelligence” [„Zrozumieć sztuczną inteligencję”],
– uwzględniając badanie EPRS z lipca 2021 r. zatytułowane „Tackling deepfakes in European Policy” [„Przeciwdziałanie deepfake’om w polityce europejskiej”],
– uwzględniając dokument roboczy Komisji Specjalnej ds. Sztucznej Inteligencji w Epoce Cyfrowej (AIDA) z lutego 2021 r. zatytułowany „Artificial Intelligence and Health” [„Sztuczna inteligencja a zdrowie”],
– uwzględniając dokument roboczy AIDA z marca 2021 r. zatytułowany „Artificial Intelligence and the Green Deal” [„Sztuczna inteligencja a Zielony Ład”],
– uwzględniając dokument roboczy AIDA z marca 2021 r. zatytułowany „The External Policy Dimensions of AI” [„Wymiary polityki zewnętrznej AI”],
– uwzględniając dokument roboczy AIDA z maja 2021 r. zatytułowany „AI and Competitiveness” [„AI a konkurencyjność”],
– uwzględniając dokument roboczy AIDA z czerwca 2021 r. zatytułowany „AI and the Future of Democracy” [„AI a przyszłość demokracji”],
– uwzględniając dokument roboczy AIDA z czerwca 2021 r. zatytułowany „AI and the Labour Market” [„AI a rynek pracy”],
– uwzględniając art. 54 Regulaminu,
– uwzględniając sprawozdanie Komisji Specjalnej ds. Sztucznej Inteligencji w Epoce Cyfrowej (A9-0088/2022),
1.Wprowadzenie #
1. #
zauważa, że świat stoi u progu czwartej rewolucji przemysłowej; wskazuje, że w porównaniu z trzema pierwszymi falami, zainicjowanymi przez wprowadzenie pary i energii elektrycznej, a następnie komputerów, czwarta fala jest napędzana ogromnymi zasobami danych powiązanych z potężnymi algorytmami i potężną zdolnością obliczeniową; podkreśla, że dzisiejszą rewolucję cyfrową kształtuje jej globalna skala, szybka konwergencja oraz ogromny wpływ pojawiających się przełomowych rozwiązań technologicznych na państwa, gospodarki, społeczeństwa, stosunki międzynarodowe i środowisko; uznaje, że radykalne zmiany tej skali mają różny wpływ na poszczególne grupy społeczne, w zależności od ich celów, położenia geograficznego lub kontekstu społeczno-gospodarczego; podkreśla, że transformacja cyfrowa musi przebiegać z pełnym poszanowaniem praw podstawowych i w taki sposób, by technologie cyfrowe służyły ludzkości;
2. #
zauważa, że rewolucja cyfrowa wywołała jednocześnie globalną konkurencję ze względu na niebotyczną wartość ekonomiczną i możliwości technologiczne zgromadzone w gospodarkach, które przeznaczają najwięcej środków na badania, rozwój i marketing zastosowań sztucznej inteligencji (AI); zauważa, że konkurencyjność cyfrowa i otwarta strategiczna autonomia stały się głównym celem politycznym w wielu krajach; podkreśla rosnącą wśród decydentów świadomość, że powstające technologie mogą wpłynąć na geopolityczny status mocarstwowy całych krajów;
3. #
zwraca uwagę, że Europa, która od wieków wyznaczała międzynarodowe standardy, dominowała w zakresie postępu technologicznego i była pionierem w produkcji i wdrażaniu wysokiej klasy rozwiązań, pozostaje w tyle, rozwijając się i inwestując na rynku cyfrowym znacznie mniej niż przodujące gospodarki, takie jak USA czy Chiny, zachowuje jednak stosunkową konkurencyjność w dziedzinie wyników badań naukowych na temat AI; dostrzega ryzyko marginalizacji podmiotów europejskich w rozwoju światowych standardów i postępu technologicznego oraz podważania wartości europejskich;
4. #
po pierwsze podkreśla, że narzędzia cyfrowe coraz częściej stają się instrumentem manipulacji i nadużyć w rękach niektórych podmiotów korporacyjnych, jak również w rękach autokratycznych rządów, w celu podważania demokratycznych systemów politycznych, co może prowadzić do konfliktów między systemami politycznymi; wyjaśnia, że szpiegostwo cyfrowe, sabotaż, działania wojenne na małą skalę i kampanie dezinformacyjne stanowią wyzwanie dla społeczeństw demokratycznych;
5. #
podkreśla, że charakter cyfrowych modeli biznesowych pozwala na wysoki stopień skalowalności i efekty sieciowe; zwraca uwagę, że wiele rynków cyfrowych charakteryzuje się wysokim stopniem koncentracji na rynku, co pozwala niewielkiej liczbie platform technologicznych, z których większość ma obecnie siedzibę w USA, przewodzić komercjalizacji przełomowych innowacji technologicznych, przyciągać najlepsze pomysły, talenty i przedsiębiorstwa oraz osiągać nadzwyczajną rentowność; ostrzega, że dominująca pozycja rynkowa w gospodarce opartej o dane prawdopodobnie przeniesie się również na powstającą gospodarkę opartą na sztucznej inteligencji; zwraca uwagę, że tylko osiem z 200 największych obecnie przedsiębiorstw cyfrowych ma siedzibę w UE; podkreśla, że w tym kontekście największe znaczenie ma urzeczywistnienie prawdziwego jednolitego rynku cyfrowego;
6. #
zwraca uwagę, że w związku z tym światowa rywalizacja o pozycję lidera w dziedzinie technologii stała się priorytetem dla UE; podkreśla, że jeśli UE nie podejmie szybkich i odważnych działań, będzie w końcu musiała przestrzegać zasad i norm ustanowionych przez innych i ryzykuje szkodliwe skutki dla stabilności politycznej, bezpieczeństwa społecznego, praw podstawowych, swobód indywidualnych i konkurencyjności gospodarczej;
7. #
twierdzi, że AI jest jedną z kluczowych wschodzących technologii czwartej rewolucji przemysłowej; zauważa, że AI napędza gospodarkę cyfrową, ponieważ umożliwia wprowadzanie innowacyjnych produktów i usług, jest w stanie zwiększyć wybór konsumentów i może zwiększyć wydajność procesów produkcyjnych; stwierdza, że oczekuje się, iż do 2030 r. AI wniesie do światowej gospodarki ponad 11 bln EUR; podkreśla jednocześnie, że technologie AI niosą ze sobą ryzyko ograniczenia ludzkiej sprawczości; zwraca uwagę, że AI powinna pozostać technologią ukierunkowaną na człowieka, godną zaufania i nie powinna zastępować ludzkiej autonomii ani prowadzić do utraty wolności jednostki; podkreśla potrzebę zadbania o to, by ta czwarta rewolucja przemysłowa miała charakter integracyjny i nie pozostawiała nikogo w tyle;
8. #
sugeruje, że na świecie toczy się rywalizacja o przywództwo w obszarze AI; zwraca uwagę, że technologie AI mogą przynieść ogromną wartość gospodarczą gospodarkom, które z zyskiem opracują, wyprodukują i przyjmą takie technologie, a także krajom, w których wartość ta jest tworzona; podkreśla, że AI nie jest wszechmocną technologią, lecz skutecznym zestawem narzędzi i technik, które można zastosować z korzyścią dla społeczeństwa; wyjaśnia, że funkcjonowanie technologii zależy od tego, jak je zaprojektujemy; zwraca uwagę, że UE zadeklarowała zamiar stworzenia pionierskich ram regulacyjnych w zakresie AI; podkreśla jednak, że dla UE kluczowe znaczenie ma możliwość określenia podejścia regulacyjnego, w tym ochrony podstawowych praw i wolności, oraz pełnienia roli podmiotu wyznaczającego standardy na świecie; podkreśla zatem znaczenie europejskiej konkurencyjności w obszarze AI oraz zdolności UE do kształtowania otoczenia regulacyjnego na szczeblu międzynarodowym; zaznacza, że niektóre zastosowania AI mogą stwarzać indywidualne i społeczne ryzyko mogące zagrażać prawom podstawowym, i dlatego zastosowania te powinny zostać uwzględnione przez decydentów politycznych, co pozwoli uczynić AI skutecznym instrumentem służącym ludziom i społeczeństwu, realizującym wspólne dobro i interes ogólny;
9. #
zauważa, że jasne ramy regulacyjne, zaangażowanie polityczne i bardziej dalekowzroczne nastawienie, których obecnie często brakuje, są potrzebne podmiotom europejskim, aby odnieść sukces w epoce cyfrowej i stać się liderami technologicznymi w obszarze AI; stwierdza, że dzięki takiemu podejściu zarówno obywatele, jak i przedsiębiorstwa UE mogą skorzystać z AI i z ogromnej szansy, jaką daje ona na zwiększenie konkurencyjności, w tym w odniesieniu do dobrobytu i dobrostanu; podkreśla, że ramy regulacyjne należy kształtować w taki sposób, aby nie nakładać nieuzasadnionych barier uniemożliwiających podmiotom europejskim odniesienie sukcesu w epoce cyfrowej, w szczególności przedsiębiorstwom rozpoczynającym działalność oraz małym i średnim przedsiębiorstwom (MŚP); akcentuje, że należy znacznie zwiększyć inwestycje prywatne i publiczne, aby stworzyć klimat, w którym w Europie będą liczniej pojawiać się i pomnażać sukcesy;
10. #
podkreśla, że szybki postęp technologiczny wprowadzony przez AI jest coraz bardziej nierozerwalnie związany z większością sfer ludzkiej działalności i będzie miał również wpływ na środki do życia wszystkich osób, które nie mają umiejętności potrzebnych do wystarczająco szybkiego dostosowania się do tych nowych technologii; zwraca uwagę, że choć nabycie umiejętności informatycznych poprzez podnoszenie i zmianę kwalifikacji może pomóc w rozwiązaniu wielu problemów społeczno-gospodarczych wynikających z braku dostosowania, oddziaływanie to należy również rozpatrywać w kontekście systemów opieki społecznej, infrastruktury miejskiej i wiejskiej oraz procesów demokratycznych;
11. #
podkreśla potrzebę odzwierciedlenia w transformacji cyfrowej celów i interesów kobiet i grup szczególnie wrażliwych; podkreśla w tym kontekście, że w 2018 r. kobiety stanowiły jedynie 22 % światowych specjalistów ds. AI, co jest problemem przyczyniającym się jedynie do utrwalania stereotypów i uprzedzeń; uznaje potrzebę zachowania praw do równości wobec prawa, prywatności, wolności wypowiedzi oraz uczestnictwa w życiu kulturalnym i politycznym podczas korzystania z technologii AI zwłaszcza w przypadku społeczności mniejszościowych;
2. Potencjalne możliwości, ryzyka i przeszkody związane z zastosowaniem AI: sześć studiów przypadków przeanalizowanych przez komisję AIDA #
12. #
przypomina, że AI opiera się na oprogramowaniu, które wykorzystuje modele probabilistyczne i algorytmiczne przewidywanie dla zestawu określonych celów; zwraca uwagę, że termin AI jest terminem zbiorczym, obejmującym szeroki zakres starych i nowych technologii, technik i podejść, trafniej pojmowanych jako „systemy sztucznej inteligencji”, co odnosi się do wszelkich systemów opartych na maszynach, często mających ze sobą niewiele więcej wspólnego niż kierowanie się określonym zestawem celów określonych przez człowieka, o różnym stopniu autonomii w działaniach, oraz angażowanie się w przewidywania, zalecenia lub podejmowanie decyzji na podstawie dostępnych danych; zauważa, że podczas gdy niektóre z tych technologii są już rozpowszechnione, inne są nadal opracowywane lub stanowią jedynie teoretyczne koncepcje, które mogą, ale nie muszą zaistnieć w przyszłości;
13. #
zwraca uwagę, że istnieje znacząca różnica między AI symboliczną – głównym podejściem do AI od lat 50. do 90. ubiegłego wieku – a AI opartą na uczeniu maszynowym i danych, która dominuje od pierwszej dekady XXI wieku; wyjaśnia, że podczas pierwszej fali AI rozwijano poprzez kodowanie wiedzy i doświadczenia ekspertów w zestaw reguł, które następnie były stosowane przez maszynę;
14. #
zauważa, że w drugiej fali zautomatyzowane procesy uczenia się algorytmów oparte na przetwarzaniu dużych ilości wysokiej jakości danych, zdolność do łączenia danych z licznych różnych źródeł i tworzenia złożonych wizualizacji danego otoczenia oraz identyfikacja wzorców sprawiły, że systemy AI stały się bardziej złożone i autonomiczne oraz mniej przejrzyste, co może prowadzić do mniej wytłumaczalnych wyników; podkreśla, że obecną AI można zatem podzielić na wiele różnych poddziedzin i technik, przy czym uczenie głębokie jest na przykład poddziedziną uczenia maszynowego, które samo w sobie jest poddziedziną AI;
15. #
zauważa, że choć dzięki znacznemu wzrostowi mocy obliczeniowej dzisiejsza AI stała się o wiele skuteczniejsza i potężniejsza niż AI symboliczna, nadal może ona rozwiązywać jedynie jasno określone zadania w niszach tematycznych, takich jak szachy czy rozpoznawanie obrazów, a jej programowanie nie jest zaprojektowane w taki sposób, aby w pełni rozpoznawać działania wykonywane przez system AI; podkreśla, że systemy AI – wbrew temu, co sugeruje ich nazwa – nie posiadają „inteligencji” w sensie ludzkim; zauważa, że w związku z tym określa się je mianem „wąskiej” lub „słabej” AI i że nadal nie są one niczym więcej niż narzędziem dostarczającym zaleceń i przewidywań; zauważa na przykład, że samochody autonomiczne działają dzięki połączeniu różnych jednozadaniowych systemów AI, które wspólnie są w stanie dostarczyć trójwymiarową mapę otoczenia pojazdu, aby jego system operacyjny mógł podejmować decyzje;
16. #
podkreśla, że wiele obaw związanych z AI opiera się na hipotetycznych koncepcjach, takich jak ogólna AI, sztuczna superinteligencja i osobliwość, które teoretycznie mogłyby doprowadzić do tego, że w wielu dziedzinach inteligencja maszyn przewyższyłaby inteligencję ludzką; zaznacza, że istnieją wątpliwości co do tego, czy taka spekulacyjna AI może w ogóle powstać przy wykorzystaniu znanych nam technologii i praw naukowych; uważa jednak, że prawodawcy powinni zająć się zagrożeniami, jakie stwarza obecnie proces decyzyjny oparty na AI, ponieważ wyraźnie widać, że szkodliwe skutki, takie jak dyskryminacja rasowa i dyskryminacja ze względu na płeć, można już przypisać konkretnym przypadkom, w których AI została wdrożona bez zabezpieczeń;
17. #
podkreśla, że większość stosowanych obecnie systemów AI charakteryzuje się niskim ryzykiem; odnosi się na przykład do tłumaczenia maszynowego, „maszyn Eureka”, automatów do gier i robotów wykonujących powtarzalne procesy produkcyjne; stwierdza, że niektóre przypadki użycia można sklasyfikować jako ryzykowne i że wymagają one działań regulacyjnych i skutecznych zabezpieczeń, o ile dotąd ich nie wprowadzono;
18. #
zachęca do publicznej debaty na temat sposobów wykorzystania ogromnego potencjału AI w oparciu o podstawowe wartości europejskie, zasady przejrzystości, wyjaśnialności, sprawiedliwości, rozliczalności i wiarygodności, a także o zasadę, zgodnie z którą AI i robotyka powinny być ukierunkowane na człowieka i rozwijane jako jego uzupełnienie; podkreśla, że w wielu dziedzinach życia ludzkiego, od zrównoważonego rozwoju po opiekę zdrowotną, AI może przynieść korzyści jako narzędzie pomocnicze dla użytkowników i specjalistów, zwiększając możliwości ludzi bez ograniczania ich zdolności do swobodnego działania i podejmowania decyzji; zaznacza, że uzgodnione zasady i wymogi etyczne dotyczące AI powinny być stosowane we wszystkich dziedzinach zastosowania AI, z uwzględnieniem niezbędnych zabezpieczeń, co zwiększy zaufanie obywateli, a tym samym skłoni ich do przyjęcia korzyści płynących z AI;
19. #
podkreśla, że poziom ryzyka związanego z konkretnym zastosowaniem AI różni się znacznie w zależności od prawdopodobieństwa wystąpienia szkody i jej dotkliwości; zaznacza zatem, że wymogi prawne powinny być do tego dostosowane, zgodnie z podejściem opartym na ryzyku i z należytym uwzględnieniem, w uzasadnionych przypadkach, zasady ostrożności; podkreśla, że w takich obecnych lub przyszłych przypadkach, gdy w konkretnym przypadku zastosowania systemy AI stwarzają wysokie ryzyko dla praw podstawowych i praw człowieka, konieczny jest pełny nadzór człowieka i interwencja regulacyjna oraz że ze względu na szybkość rozwoju technologicznego uregulowania dotyczące systemów AI wysokiego ryzyka muszą być elastyczne i przyszłościowe;
20. #
wskazuje, że w niniejszym sprawozdaniu szczegółowo omówiono sześć studiów przypadków dotyczących AI, przedstawiając możliwości oferowane przez AI w danym sektorze, zagrożenia, którym należy zaradzić, oraz przeszkody uniemożliwiające Europie pełne wykorzystanie korzyści płynących z AI; podkreśla, że studia przypadków stanowią jedne z najważniejszych obecnie przypadków użycia AI, a jednocześnie odzwierciedlają niektóre z głównych tematów wysłuchań publicznych przeprowadzonych przez komisję AIDA na podstawie jej mandatu: zdrowie, Zielony Ład, politykę zewnętrzną i bezpieczeństwo, konkurencyjność, przyszłość demokracji oraz rynek pracy;
#
a) AI a zdrowie #
21. #
stwierdza, że analiza metodologiczna dużych ilości danych, w tym za pomocą AI, może odblokować nowe rozwiązania lub ulepszyć istniejące techniki w sektorze opieki zdrowotnej, co może znacznie przyspieszyć badania naukowe, ratować ludzkie życie i poprawić opiekę nad pacjentami dzięki innowacyjnym metodom leczenia i lepszej diagnostyce oraz wspieraniu środowisk sprzyjających zdrowemu stylowi życia; podkreśla, że systemy AI mogą również przyczynić się do zwiększenia dostępności, odporności i trwałości systemów opieki zdrowotnej, a jednocześnie zapewnić przewagę konkurencyjną europejskich sektorów ICT i opieki zdrowotnej, jeżeli towarzyszące im nieodłączne ryzyko będzie odpowiednio zarządzane;
22. #
podkreśla, że wykorzystanie AI w sektorze opieki zdrowotnej powinno być oparte na surowych wymogach etycznych, takich jak sprawiedliwy dostęp do opieki zdrowotnej, prywatność, odpowiedzialność, przejrzystość, wyjaśnialność, wiarygodność, inkluzywność i reprezentatywność zbiorów danych oraz stały nadzór człowieka; zwraca uwagę, że projektowanie systemów opartych o AI musi uwzględniać ryzyko niewłaściwego przydzielania zasobów poszczególnym osobom na podstawie błędnej lub tendencyjnej kategoryzacji, ustalania priorytetów lub nieprawidłowego działania technologii, co prowadzi do błędnej diagnozy, niewłaściwego leczenia lub braku leczenia; uważa, że do wszystkich zastosowań w opiece zdrowotnej należy stosować najwyższe standardy etyczne oraz że zasady etyczne należy ustanowić na bardzo wczesnym etapie ich opracowywania i projektowania (etyka w fazie projektowania); podkreśla, że zautomatyzowane podejmowanie decyzji w zastosowaniach w dziedzinie opieki zdrowotnej może stanowić zagrożenie dla dobrobytu pacjentów i ich praw podstawowych, oraz podkreśla, że AI musi zatem odgrywać rolę pomocniczą w opiece zdrowotnej, w której zawsze należy utrzymać profesjonalny nadzór ze strony człowieka; apeluje, aby AI w diagnozach medycznych w publicznych systemach opieki zdrowotnej zawsze chroniła relację pacjent–lekarz i była zgodna z przysięgą Hipokratesa; zauważa jednak, że AI zwiększa dokładność badań przesiewowych i już teraz w wielu przypadkach przewyższa diagnozy lekarskie; stwierdza, że istniejące ramy odpowiedzialności nie zapewniają wystarczającej pewności prawa i nie gwarantują pacjentom dostępu do wymiaru sprawiedliwości w przypadku błędnej diagnozy i niewłaściwego leczenia z wykorzystaniem AI; w związku z tym z zadowoleniem przyjmuje przygotowywany wniosek ustawodawczy w sprawie odpowiedzialności za AI; zauważa, że istotna jest ochrona pracowników służby zdrowia jako użytkowników systemów AI, a także pacjentów jako odbiorców końcowych, poprzez zapewnienie im wystarczających i przejrzystych informacji;
23. #
podkreśla, że rozwiązania oparte na AI są już wykorzystywane lub testowane w warunkach klinicznych w celu wspierania diagnozy, prognozy, leczenia i zaangażowania pacjentów, a tym samym przyspieszenia i poprawy leczenia oraz ograniczenia zbędnych działań; zauważa ponadto, że AI może poprawić medycynę spersonalizowaną i opiekę nad pacjentami; zauważa, że AI obejmuje obecnie szeroki zakres sfer zdrowia, w tym zdrowie publiczne, usługi opieki, samoopiekę i systemy opieki zdrowotnej; zauważa, że istotną rolę odgrywają dane; stwierdza, że istnieją obiecujące zastosowania AI w pozyskiwaniu informacji z obrazów i urządzeń medycznych w celu wykorzystania ich w dalszych analizach; zauważa, że oczekuje się również, iż algorytmy uczenia głębokiego mogą zapewnić skok ilościowy w wielu zadaniach klinicznych;
24. #
podkreśla, że technologie AI mogą być stosowane w badaniach, rozwoju i masowej produkcji produktów leczniczych i mają potencjał przyspieszenia opracowywania nowych leków, terapii i szczepionek po niższych kosztach; uważa, że AI może pomóc w przewidywaniu reakcji na leczenie i może umożliwić lekarzom dostosowanie strategii terapeutycznych do indywidualnych cech genetycznych lub fizjologicznych pacjenta z coraz większą dokładnością, jeśli opiera się na wysokiej jakości danych i solidnych założeniach, co zwiększy skuteczność opieki profilaktycznej, pod warunkiem spełnienia wszystkich wymogów etycznych dotyczących profesjonalnego nadzoru nad walidacją kliniczną AI, wymogów prywatności, ochrony danych i świadomej zgody; zauważa, że duże ilości danych w dziedzinie zdrowia można analizować przy pomocy AI, aby przyspieszyć ich przetwarzanie; podkreśla znaczenie zapewnienia interoperacyjności systemów obliczeń wielkiej skali z AI, ponieważ główne sektory gospodarki, w tym produkcja, zdrowie i farmaceutyka, opierają się na systemach obliczeń wielkiej skali;
25. #
podkreśla, że rozwiązania oparte na AI mogą potencjalnie dostosować terapie i rozwój leków do konkretnych potrzeb pacjentów oraz zwiększyć zaangażowanie zainteresowanych stron i uczestników systemu opieki zdrowotnej; uważa, że AI i dostęp do odpowiednich, aktualnych i wysokiej jakości anonimowych i reprezentatywnych zbiorów danych, zgodnie z przepisami UE dotyczącymi ochrony danych osobowych, wspierają pracowników służby zdrowia, pomagając im w zapewnieniu lepszej opieki pacjentom oraz bardziej zindywidualizowanych informacji zwrotnych, wskazówek i wsparcia, wspierając bezpieczeństwo pacjentów i zwiększając skuteczność terapii; podkreśla, że może to być szczególnie pomocne w selekcji i przeglądzie rosnącego zasobu wiedzy naukowej w celu wyodrębnienia spostrzeżeń istotnych dla pracowników służby zdrowia; podkreśla, że obywatele wszystkich państw członkowskich powinni mieć możliwość dzielenia się danymi na temat swojego zdrowia z wybranymi przez siebie podmiotami i organami opieki zdrowotnej; podkreśla w związku z tym potrzebę tworzenia zachęt do podnoszenia i zmiany kwalifikacji oraz do przebranżowienia się pracowników w zawodach związanych ze służbą zdrowia;
26. #
stwierdza, że walka z COVID-19 przyspieszyła badania nad nowymi technologiami, a także ich wdrażanie – zwłaszcza w przypadku aplikacji AI – w dążeniu do lepszego wykrywania przypadków, opieki klinicznej i badań nad terapiami, oraz podkreśliła przydatność AI, a także znaczenie finansowania i wysokiej jakości danych do celów skutecznego monitorowania i modelowania rozprzestrzeniania się ognisk chorób zakaźnych, zgodnie z przepisami o ochronie danych; zauważa jednak, że doświadczenia z aplikacjami AI w czasie COVID-19 ujawniły pewne ograniczenia w stosowaniu AI w diagnostyce medycznej(26);
27. #
podkreśla potencjał systemów AI w odciążaniu systemów opieki zdrowotnej, a w szczególności pracowników służby zdrowia, oraz w zakresie rozwiązań umożliwiających świadczenie opieki na rzecz szybko starzejących się społeczeństw w Europie i na świecie oraz ich ochronę przed niebezpiecznymi chorobami;
28. #
podkreśla, że wykorzystanie bezpiecznych i wydajnych zastosowań AI do zadań administracyjnych niewymagających działania człowieka, może zaoszczędzić pracownikom służby zdrowia wiele czasu, który można poświęcić pacjentom;
29. #
podkreśla, że konsumenckie aplikacje zdrowotne oparte na AI mogą pomóc w monitorowaniu stanu zdrowia danej osoby za pomocą urządzeń codziennego użytku, takich jak smartfony, umożliwiając użytkownikom dobrowolne dostarczanie danych, które mogą być podstawą wczesnego ostrzegania i alertów dotyczących chorób zagrażających życiu, takich jak udar czy zatrzymanie akcji serca; podkreśla, że aplikacje zdrowotne oparte na AI mogą również zachęcać do zdrowych zachowań i umożliwiać jednostkom odpowiedzialną samoopiekę poprzez wyposażenie pacjentów w dodatkowe środki monitorowania własnego zdrowia i stylu życia oraz poprzez zwiększenie dokładności badań przesiewowych przeprowadzanych przez pracowników służby zdrowia; zwraca jednak uwagę na szczególną wrażliwość danych osobowych dotyczących zdrowia oraz na ryzyko naruszenia lub niewłaściwego wykorzystania danych w tym zakresie, a także podkreśla potrzebę stosowania surowych norm w zakresie cyberbezpieczeństwa w odniesieniu do wszelkich aplikacji zdrowotnych;
30. #
podkreśla, że AI w sektorze zdrowia polega w szczególności na dużych ilościach danych osobowych, jakości danych, wymianie danych, dostępności danych i interoperacyjności danych w celu osiągnięcia pełnego potencjału AI i zdrowia; podkreśla potrzebę ułatwienia łączenia elektronicznych kart zdrowia z systemami e-recept, aby umożliwić pracownikom służby zdrowia zaangażowanym w opiekę nad pacjentem dostęp do niezbędnych informacji o pacjencie, pod warunkiem uzyskania jego zgody;
31. #
z zadowoleniem przyjmuje utworzenie europejskiej przestrzeni danych dotyczących zdrowia w celu gromadzenia danych o bardzo wysokiej jakości do wykorzystania w sektorze zdrowia; uważa, że wzajemne połączenie i interoperacyjność infrastruktury obliczeń wielkiej skali z europejską przestrzenią danych dotyczących zdrowia zapewniłoby dostępność dużych zbiorów danych zdrowotnych wysokiej jakości, istotnych dla badań i leczenia patologii, zwłaszcza rzadkich chorób i schorzeń pediatrycznych;
32. #
podkreśla potrzebę budowania zaufania poprzez promowanie interoperacyjności i ściślejszej współpracy między poszczególnymi pracownikami opieki zdrowotnej opiekującymi się tymi samymi pacjentami; podkreśla potrzebę oferowania pracownikom służby zdrowia szkoleń w zakresie technik i podejść wykorzystujących AI; akcentuje potrzebę zwalczania braku zaufania, np. poprzez wykorzystanie pełnego potencjału anonimizacji i pseudonimizacji danych, oraz lepszego informowania obywateli, pracowników służby zdrowia i decydentów o zastosowaniach, korzyściach i zagrożeniach związanych z AI w dziedzinie zdrowia, a także informowania twórców sztucznej AI o wyzwaniach i zagrożeniach związanych z przetwarzaniem wrażliwych danych w tej dziedzinie;
33. #
uważa ponadto, że wiążące i solidne standardy etyczne i prawne oraz egzekwowalne prawa dochodzenia roszczeń są niezbędne do promowania ekosystemu zaufania wśród obywateli oraz do odpowiedniej ochrony danych dotyczących zdrowia przed potencjalnym niewłaściwym wykorzystaniem i bezprawnym dostępem; zgadza się z Komisją, że obywatele powinni mieć bezpieczny dostęp do kompleksowego elektronicznego rejestru danych dotyczących ich zdrowia oraz powinni zachować kontrolę nad danymi osobowymi dotyczącymi ich zdrowia i móc bezpiecznie dzielić się nimi z upoważnionymi osobami trzecimi, przy zapewnieniu skutecznej ochrony danych osobowych i silnego cyberbezpieczeństwa; podkreśla, że należy zakazać nieuprawnionego dostępu do danych i ich rozpowszechniania oraz zagwarantować ochronę danych osobowych pacjentów zgodnie z przepisami o ochronie danych;
34. #
podkreśla w związku z tym ryzyko stronniczych decyzji prowadzących do dyskryminacji i łamania praw człowieka; podkreśla zatem potrzebę bezstronnego sprawdzania stosowanych algorytmów i zbiorów danych oraz promowania dalszych badań nad metodami i stronniczością wpisanymi w trenowane systemy AI, aby zapobiec nieetycznym i dyskryminującym wnioskom w obszarze danych dotyczących zdrowia ludzkiego;
35. #
akcentuje, że wymagane jest skuteczne i jednolite stosowanie RODO w całej UE w celu sprostania wyzwaniom takim jak brak pewności prawa i brak współpracy w sektorze zdrowia; podkreśla, że takie wyzwania prowadzą w niektórych przypadkach do opóźnień w odkryciach naukowych i do obciążenia biurokratycznego w badaniach w dziedzinie zdrowia; zwraca uwagę, że utworzenie europejskiej przestrzeni danych na temat zdrowia, która zagwarantuje prawa pacjentów i możliwość przenoszenia danych, mogłoby wzmocnić współpracę i pobudzić wymianę danych na potrzeby badań i innowacji w europejskim sektorze zdrowia;
36. #
zauważa, że AI może przyczynić się do szybkiego postępu w dziedzinie nowych technologii, takich jak obrazowanie mózgu, które już teraz mają istotne zastosowania w medycynie, ale wiążą się również ze znacznym ryzykiem dla ludzkiej sprawczości i wyrażania praw podstawowych bez konieczności uzyskania zgody osoby; jest zaniepokojony brakiem przepisów dotyczących danych neurologicznych i uważa, że UE powinna dążyć do objęcia pozycji światowego lidera w dziedzinie rozwoju bezpiecznych technologii neurologicznych;
#
b) AI a Zielony Ład #
37. #
podkreśla, że dwa kluczowe priorytety Komisji na nadchodzące lata to Europa na miarę ery cyfrowej oraz Zielony Ład; podkreśla potrzebę dopilnowania, aby transformacja cyfrowa przyczyniła się do osiągnięcia zrównoważonego rozwoju i wspierała transformację ekologiczną; uważa, że wymaga to przyspieszenia innowacji zgodnych z celami UE w zakresie klimatu i z normami środowiskowymi; podkreśla, że aplikacje oparte na sztucznej inteligencji mogą przynieść korzyści środowiskowe i gospodarcze oraz wzmocnić zdolności przewidywania, co może przyczynić się do walki ze zmianą klimatu i do osiągnięcia celów Europejskiego Zielonego Ładu oraz celu UE, by do 2050 r. stać się pierwszym kontynentem neutralnym dla klimatu; stwierdza, że wykorzystanie AI może potencjalnie zmniejszyć globalne emisje gazów cieplarnianych nawet o 4 % do 2030 r.(27); stwierdza, że zgodnie z niektórymi szacunkami ICT mogą przynieść zmniejszenie emisji gazów cieplarnianych dziesięciokrotnie większe od ich własnego śladu węglowego(28), ale przyznaje, że wymaga to świadomych wyborów projektowych i działań regulacyjnych; ostrzega jednocześnie, że rosnące zużycie energii przy przechowywaniu dużych zbiorów danych potrzebnych do trenowania systemów AI może mieć również negatywne skutki; przypomina, że przesył danych i infrastruktura ICT zużywają obecnie około 7 % światowej energii elektrycznej, a przewiduje się, że bez odpowiednich zabezpieczeń liczba ta wzrośnie do 13 % do 2030 r.; dodaje, że intensywne wykorzystanie surowców do budowy mikroprocesorów i zaawansowanych technologicznie urządzeń wykorzystujących AI może również przyczynić się do tego negatywnego wpływu; podkreśla, że w celu zagwarantowania „dużego pozytywnego wpływu AI na środowisko i klimat, lecz niewielkiego negatywnego śladu” [„large handprint but small footpring”] należy uwzględnić ten bezpośredni i pośredni negatywny wpływ na środowisko, a systemy AI muszą być projektowane w taki sposób, by promować zrównoważoną konsumpcję, ograniczać wykorzystanie zasobów i zużycie energii, unikać zbędnych operacji przetwarzania i zapobiegać szkodom dla środowiska; podkreśla, że zajęcie się wpływem sektora ICT na środowisko wymaga odpowiednich informacji i danych;
38. #
wyraża zaniepokojenie, że tylko sześć państw członkowskich w swoich wysiłkach na rzecz realizacji celów Zielonego Ładu położyło silny nacisk na zastosowania AI; uważa, że AI można wykorzystać do gromadzenia i organizowania informacji istotnych dla planowania środowiskowego, podejmowania decyzji oraz zarządzania postępami polityki w dziedzinie środowiska i monitorowania ich, na przykład na rzecz czystszego powietrza, w którym to obszarze zastosowania AI mogą monitorować zanieczyszczenie i ostrzegać przed zagrożeniami; podkreśla, że tego rodzaju AI i rozwiązania cyfrowe można by wykorzystać w kilku sektorach w celu zwiększenia skali rozwiązań zasobooszczędnych;
39. #
kładzie nacisk na znaczenie systemów opartych na AI dla rozwoju inteligentnych miast i wsi poprzez optymalizację wykorzystania zasobów i zwiększenie odporności infrastruktury, w tym poprzez przewidywanie i ograniczanie ruchu drogowego, inteligentne zarządzanie energią, pomoc w sytuacjach kryzysowych i odpady, co ma już zastosowanie w wielu miastach i gminach w całej UE; podkreśla, że rozwiązania oparte na sztucznej inteligencji mogą dodatkowo wspomagać procesy planowania miejskiego, architektury, budownictwa i inżynierii w celu ograniczenia emisji, czasu budowy, kosztów i odpadów;
40. #
podkreśla, że transformacja energetyczna nie odbędzie się bez cyfryzacji; zwraca uwagę, że AI może monitorować, optymalizować i ograniczać zużycie i produkcję energii, a także wspierać integrację energii odnawialnej z istniejącymi sieciami energetycznymi; podkreśla, że inteligentne liczniki, wydajne systemy oświetleniowe, chmury obliczeniowe oraz oprogramowanie rozproszone wspomagane przez AI mogą spowodować zmianę schematów wykorzystywania energii i promować odpowiedzialne korzystanie z niej;
41. #
zaznacza, że rosnąca złożoność systemu transformacji energetycznej, wraz ze wzrostem zmienności wytwarzania energii ze źródeł odnawialnych i zmianami w zarządzaniu obciążeniem sieci, sprawia, że coraz bardziej zautomatyzowana kontrola jest niezbędna dla bezpieczeństwa dostaw energii; podkreśla, że AI może korzystnie wpłynąć na bezpieczeństwo dostaw, zwłaszcza w zakresie eksploatacji, monitorowania, konserwacji i kontroli sieci wodociągowych, gazowych i elektrycznych; zauważa jednak, że technologie sieciowe wykorzystujące AI wprowadzą miliony inteligentnych komponentów o wspólnych słabych punktach, co zwiększy liczbę potencjalnych punktów ataku na sieci energetyczne i zwiększy podatność infrastruktury krytycznej na zagrożenia, jeżeli nie zostaną wprowadzone odpowiednie przepisy dotyczące cyberbezpieczeństwa; stwierdza, że inteligentne sieci wymagają dalszych inwestycji i badań naukowych;
42. #
stwierdza, że AI i inne zastosowania cyfrowe w mobilności i transporcie mogą optymalizować natężenie ruchu oraz zwiększać bezpieczeństwo na drodze, w tym dzięki podniesieniu wydajności dostępu do systemów transportu; wskazuje, że AI może wpływać na projektowanie i zarządzanie energią w pojazdach energooszczędnych; podkreśla, że znacznie zwiększyły się możliwości korzystania z usług przewozowych opartych na aplikacjach, usług wspólnych przejazdów i wspólnego użytkowania samochodów oraz że AI jest często wykorzystywana w takich usługach z zakresu mobilności poprzez efektywne planowanie tras i wybór punktów odbioru pasażerów;
43. #
uważa, że AI może odegrać przekształcającą rolę w sektorze rolnictwa, wspierając powstawanie nowych metod zbiorów, w tym przewidywania zbiorów, oraz zarządzanie zasobami rolnymi; podkreśla, że rolnictwo jest kluczowym sektorem, w którym AI może pomóc w ograniczeniu emisji i zużywania pestycydów, nawozów, środków chemicznych i wody poprzez skoncentrowanie ich użycia na precyzyjnej ilości i na węższym obszarze; podkreśla ponadto, że AI może przyczynić się do przywrócenia różnorodności biologicznej poprzez monitorowanie zagrożonych gatunków lub śledzenie działań związanych z wylesianiem; podkreśla potrzebę opracowania wytycznych dotyczących wdrażania i znormalizowanych metodologii oceny w celu wsparcia „zielonej AI” w takich obszarach, jak inteligentne sieci, rolnictwo precyzyjne oraz inteligentne i zrównoważone miasta i społeczności; jest zdania, że AI w formie rolnictwa precyzyjnego może zoptymalizować produkcję żywności w gospodarstwach rolnych oraz szerzej pojęte zarządzanie gruntami poprzez poprawę zagospodarowania przestrzennego, przewidywanie zmian w wykorzystaniu gruntów i monitorowanie stanu upraw, a także może zmienić systemy przewidywania ekstremalnych zdarzeń pogodowych;
44. #
podkreśla, że AI może zapewnić wkład w gospodarkę o obiegu zamkniętym dzięki zwiększeniu zasobooszczędności procesów i zachowań związanych z produkcją, konsumpcją i recyklingiem oraz większej przejrzystości dotyczącej wykorzystywania materiałów, na przykład w odniesieniu do etycznego pozyskiwania surowców oraz zmniejszonej ilości odpadów; podkreśla, że AI może zwiększyć wiedzę przedsiębiorstw na temat ich emisji, w tym w ramach łańcuchów wartości, pomagając im w ten sposób w dostosowaniu i osiągnięciu indywidualnych celów w zakresie emisji; podkreśla, że narzędzia cyfrowe mogą pomóc przedsiębiorstwom we wdrażaniu niezbędnych kroków w kierunku bardziej zrównoważonego działania, zwłaszcza w przypadku MŚP, które w przeciwnym razie mogą nie mieć do tego odpowiednich zasobów;
45. #
podkreśla, że obecnie nie jest możliwe wykorzystanie AI do pełnego pomiaru wpływu na środowisko; uważa, że istnieje potrzeba przeprowadzenia większej liczby badań na temat roli AI w ograniczaniu wpływu na środowisko; podkreśla, że potrzeba więcej danych dotyczących środowiska, aby uzyskać lepszy wgląd i wywołać większy postęp dzięki rozwiązaniom AI; podkreśla, że wykorzystanie AI do systematycznego łączenia danych dotyczących emisji CO2 z danymi na temat struktury produkcji i konsumpcji, łańcuchów dostaw i tras logistycznych mogłoby zapewnić wykrywanie działań, które mają pozytywny lub negatywny wpływ;
c) Polityka zewnętrzna i wymiar bezpieczeństwa AI #
46. #
przypomina, że UE dąży do globalnego porozumienia w sprawie wspólnych standardów odpowiedzialnego korzystania z AI, co ma kapitalne znaczenie; zasadniczo wierzy jednak w potencjał podobieństwa demokracji w zakresie współpracy na rzecz wspólnego kształtowania międzynarodowej debaty na temat ram AI, które byłyby zgodne z prawami człowieka i praworządnością, współpracy na rzecz pewnych wspólnych norm i zasad, norm technicznych i etycznych oraz wytycznych dotyczących odpowiedzialnego zachowania państw, zwłaszcza pod egidą organizacji międzyrządowych, takich jak ONZ i OECD, a tym samym promowanie multilateralizmu, zrównoważonego rozwoju, interoperacyjności i wymiany danych na arenie międzynarodowej; popiera prace otwartej grupy roboczej ONZ ds. technologii informacyjno-komunikacyjnych i bezpieczeństwa międzynarodowego; podkreśla, że środki budowania zaufania są niezbędne do podwyższenia poziomu dialogu i zaufania; wzywa zatem do większej przejrzystości w wykorzystywaniu AI w celu zapewnienia większej rozliczalności;
47. #
z zadowoleniem przyjmuje niedawne wielostronne inicjatywy mające na celu opracowanie wytycznych i standardów etycznie odpowiedzialnego wykorzystywania AI, takie jak zasady OECD dotyczące AI, światowe partnerstwo na rzecz AI, zalecenie UNESCO w sprawie etyki AI, światowy szczyt Międzynarodowego Związku Telekomunikacyjnego „AI for Good”, zalecenia Rady Europy dotyczące ewentualnych ram prawnych w obszarze AI oraz wytyczne UNICEF-u dotyczące AI w odniesieniu do dzieci; z zadowoleniem przyjmuje prace prowadzone na szczeblu międzynarodowym nad standardami dotyczącymi AI oraz postępy poczynione w zakresie standardów Międzynarodowej Organizacji Normalizacyjnej dotyczących wpływu AI na zarządzanie;
48. #
ponadto z zadowoleniem przyjmuje utworzenie i uruchomienie Rady UE–USA ds. Handlu i Technologii; wyraża zadowolenie z wyników jej pierwszego posiedzenia w Pittsburghu; postrzega tę radę jako potencjalne forum światowej koordynacji między Unią Europejską a Stanami Zjednoczonymi służące ustanowieniu globalnych zasad dotyczących AI i globalnych standardów technologicznych, które chronią nasze wspólne wartości, w celu pobudzenia wspólnych inwestycji, badań i rozwoju oraz z myślą o silniejszej koordynacji politycznej w instytucjach międzynarodowych w kwestiach związanych z technologią i AI;
49. #
podkreśla kluczową rolę, jaką UE może odegrać w wyznaczaniu światowych standardów, wprowadzając jako pierwsza na świecie prawodawstwo dotyczące AI; podkreśla, że dzięki unijnym ramom prawnym dotyczącym AI Europa mogłaby stać się światowym liderem w tym sektorze i że należy zatem promować takie ramy na całym świecie poprzez współpracę z wszystkimi partnerami międzynarodowymi i jednoczesne prowadzenie dalszego krytycznego dialogu dotyczącego kwestii etycznych z państwami trzecimi, które mają inne modele zarządzania i normy w zakresie AI;
50. #
odnotowuje, że rząd chiński podpisał normy i umowy o współpracy z 52 krajami w ramach inicjatywy Pasa i Szlaku; ostrzega, że kilka z tych norm, w tym dotyczących technologii sztucznej inteligencji, a w szczególności w odniesieniu do nadzoru rządowego i indywidualnych wolności, nie jest zgodnych z prawami człowieka i wartościami UE, dlatego chiński aktywizm w zakresie norm stanowi wyzwanie dla UE;
51. #
podkreśla, że technologie AI, zwłaszcza te, które nie zostały zaprojektowane i opracowane przy zastosowaniu niezbędnych procedur kontroli i które są wykorzystywane w sposób niewłaściwy i bez nadzoru w ośrodkach dowodzenia wojskowego i wyrzutniach rakietowych, wiążą się ze szczególnie dużym ryzykiem i mogą eskalować zautomatyzowany wzajemny konflikt;
52. #
zauważa, że korzystanie z systemów AI w rozwiązaniach obronnych jest uznawane za przełom w operacjach wojskowych dzięki analizie danych, zdolności do odzwierciedlenia większej złożoności sytuacji, możliwości zwiększenia dokładności celów, optymalizacji logistyki i angażowania się w konflikty zbrojne przy zmniejszonym ryzyku wyrządzenia szkód fizycznych ludności cywilnej i własnemu personelowi wojskowemu, a także dzięki wykorzystaniu danych do opracowywania sposobów działania, takich jak „wargaming”; ostrzega jednak, że może to prowadzić do obniżenia progu użycia siły, a tym samym do większej liczby konfliktów; potwierdza, że maszyny nie mogą podejmować decyzji podobnych do decyzji ludzkich, które uwzględniają prawne zasady rozróżnienia, proporcjonalności i ostrożności; potwierdza, że ludzie powinni zachować kontrolę nad decyzjami o rozmieszczeniu i użyciu broni oraz pozostać odpowiedzialni za użycie śmiercionośnej siły oraz za decyzje dotyczące życia i śmierci; jest zdania, że systemy broni oparte na AI powinny podlegać globalnym standardom i międzynarodowemu kodeksowi etycznemu, który stanowiłby podstawę stosowania technologii AI w operacjach wojskowych, z pełnym poszanowaniem międzynarodowego prawa humanitarnego i praw człowieka oraz zgodnie z prawem i wartościami Unii;
53. #
wyraża zaniepokojenie prowadzonymi w niektórych krajach badaniami wojskowymi i rozwojem technologicznym w zakresie autonomicznych śmiercionośnych systemów uzbrojenia bez rzeczywistej kontroli ze strony człowieka; zauważa, że autonomiczne śmiercionośne systemy uzbrojenia są już wykorzystywane w konfliktach wojskowych; przypomina, że Parlament wielokrotnie wzywał do wprowadzenia międzynarodowego zakazu opracowywania, produkcji i stosowania autonomicznych śmiercionośnych systemów uzbrojenia oraz do rozpoczęcia skutecznych negocjacji w sprawie ich zakazu; podkreśla, że w żadnym wypadku nie można dopuścić do tego, by systemy wykorzystujące AI zastąpiły ludzki proces decyzyjny z uwzględnieniem zasad prawnych: rozróżnienia, proporcjonalności i ostrożności;
54. #
zauważa w szczególności, że technologia AI może wiązać się z potencjalnym ryzykiem jako środek prowadzenia różnych form wojny hybrydowej i ingerencji zagranicznej; precyzuje, że może ona na przykład zostać uruchomiona w celu wywoływania dezinformacji za pomocą botów lub fałszywych kont w mediach społecznościowych, do przekształcania współzależności w broń w drodze gromadzenia cennych informacji lub odmawiania przeciwnikom dostępu do sieci, poprzez wywoływanie zakłóceń w systemach gospodarczych i finansowych innych krajów, zakłócanie debaty politycznej i faworyzowanie grup ekstremistycznych lub manipulowanie wyborami w celu destabilizacji demokracji;
55. #
podkreśla, że technologie AI mogą również obejmować złośliwe oprogramowanie napędzane przez AI, kradzież tożsamości, zatruwanie danych lub inne formy wrogiego uczenia maszynowego, które powodują, że inne systemy AI błędnie interpretują dane wejściowe; wskazuje w szczególności na coraz częstsze zastosowanie technik deepfake, które niekoniecznie są cyberatakami, ale prowadzą do kwestionowania autentyczności wszystkich treści cyfrowych, w tym treści wideo, i w związku z tym wymagają szczególnej uwagi pod względem wymogów dotyczących przejrzystości; ostrzega, że techniki deepfake mogą przyczynić się do powstania uogólnionego klimatu braku zaufania publicznego do AI, a także do głębszej polaryzacji społeczno-politycznej w naszych społeczeństwach;
56. #
wyjaśnia, że wykorzystanie systemów AI w znacznej części kluczowej infrastruktury krytycznej, takiej jak sieci energetyczne i transportowe, sektor kosmiczny, łańcuch żywnościowy, infrastruktura bankowa, finansowa i szpitalna, doprowadziło do powstania nowych słabych punktów, które wymagają solidnych środków w zakresie cyberbezpieczeństwa, aby zapobiec zagrożeniom; wskazuje w związku z tym na znaczenie współpracy, wymiany informacji i działań zarówno na szczeblu UE, jak i między państwami członkowskimi; podkreśla znaczenie wspierania odporności podmiotów krytycznych na zagrożenia hybrydowe;
57. #
ostrzega, że możliwości AI mogą również stwarzać zagrożenia dla bezpieczeństwa, ponieważ mogą prowadzić do tego, że ludzie będą ufać AI bardziej niż własnemu osądowi; zauważa, że stosowanie zasady udziału czynnika ludzkiego jako mechanizmu korekty nie we wszystkich przypadkach jest wykonalne; zauważa, że jak pokazały doświadczenia, może to zwiększyć poziom autonomii AI w sposób wykraczający poza rolę wspierającą, dla której została ona pierwotnie zaprojektowana, oraz oznacza to, że ludzie nie korzystają z możliwości zdobywania doświadczeń oraz zwiększania swoich umiejętności i wiedzy w zakresie systemów AI; podkreśla zatem, że w celu przezwyciężenia tego rodzaju tendencyjności automatyzacji w systemach AI wysokiego ryzyka konieczne jest uwzględnienie bezpieczeństwa już w fazie projektowania oraz znaczący nadzór człowieka oparty na odpowiednim szkoleniu, a także odpowiednie zabezpieczenia w zakresie bezpieczeństwa i prywatności;
58. #
podkreśla jednak, że AI może być wykorzystywana do przewidywania awarii zasilania i określania potrzeb w zakresie konserwacji z dużą dokładnością; precyzuje ponadto, że może być ona wykorzystywana do syntezy dużych ilości danych poprzez zautomatyzowaną ekstrakcję informacji lub zautomatyzowaną klasyfikację informacji oraz do wykrywania określonych wzorców; podkreśla, że elementy te zapewniłyby lepsze przewidywanie i ocenę poziomu zagrożenia i podatności systemów, szybsze procesy podejmowania decyzji, zwiększoną reaktywność oraz skuteczniejsze zabezpieczenie i wykorzystywanie urządzeń końcowych;
59. #
zwraca w szczególności uwagę na potencjał tkwiący w umożliwieniu organom ścigania identyfikowania i zwalczania działalności przestępczej, w czym pomaga technologia AI; podkreśla, że takie działania organów ścigania związane z AI wymagają jednak pełnego poszanowania praw podstawowych, ścisłego demokratycznego nadzoru, jasnych zasad przejrzystości, rozbudowanej infrastruktury informatycznej, nadzoru ze strony człowieka, wysoko wykwalifikowanych pracowników oraz dostępu do odpowiednich danych wysokiej jakości;
d) AI a konkurencyjność #
60. #
zauważa, że w najbliższej przyszłości coraz więcej produktów i usług w całym łańcuchu wartości będzie wzajemnie połączonych, a AI i automatyzacja odegrają istotną rolę w wielu procesach produkcyjnych, operacjach i modelach biznesowych; podkreśla nadrzędne znaczenie badań podstawowych dla rozwoju przemysłowych ekosystemów AI, a także znacznych inwestycji w celu promowania cyfrowej administracji publicznej i modernizacji infrastruktury cyfrowej;
61. #
zauważa, że pomimo znacznego wzrostu kapitału wysokiego ryzyka i innych funduszy na wczesnym etapie rozwoju w ciągu ostatnich dwóch lat wiele europejskich gałęzi przemysłu pozostaje w tyle, a obecny poziom finansowania w UE jest nadal niewystarczający i powinien zostać znacznie zwiększony, aby dorównać dynamice przodujących ekosystemów AI, takich jak Dolina Krzemowa i inne; podkreśla szczególną klastrowo-sieciową strukturę ekosystemu innowacji w UE, w przeciwieństwie do scentralizowanych (i wspieranych przez państwo) ekosystemów innowacji;
62. #
podkreśla, że AI może być przełomowa dla konkurencyjności unijnego przemysłu i zwiększyć wydajność, przyspieszyć innowacje, usprawnić procesy produkcyjne i pomóc w monitorowaniu odporności europejskich łańcuchów dostaw;
63. #
zwraca uwagę na ryzyko zakłóceń w łańcuchach dostaw z powodu gospodarczego decouplingu lub katastrofalnych wydarzeń, takich jak pandemie lub zjawiska związane ze zmianą klimatu; podkreśla, że wykorzystanie AI może pomóc w wykrywaniu wzorców zakłóceń w łańcuchach dostaw i dostarczać informacji niezbędnych do konserwacji predykcyjnej, co może wspierać dywersyfikację dostawców;
64. #
zauważa, że przedsiębiorstwa, które zapoczątkowały zakłócenia cyfrowe, często były nagradzane znacznym wzrostem udziału w rynku; zauważa, że ostatnie badania wskazują, iż schemat ten może się powtórzyć z jeszcze większą intensywnością, ponieważ przedsiębiorstwa, które stosują sztuczną inteligencję, często gromadzą duże ilości danych, co ma tendencję do wzmacniania ich pozycji konkurencyjnej; wyraża zaniepokojenie wynikającym z tego ryzykiem koncentracji na rynku ze szkodą dla MŚP i przedsiębiorstw typu start-up;
65. #
zaznacza, że perspektywa ta jest tym bardziej niepokojąca, że największe przedsiębiorstwa technologiczne o ugruntowanej pozycji, które prawdopodobnie również zdominują technologie AI, są strażnikami rynków, a jednocześnie przechwytują większość generowanej wartości; podkreśla, że dane, które napędzają sektor sztucznej inteligencji, są w przeważającej mierze gromadzone przez te same duże przedsiębiorstwa technologiczne, które oferują użytkownikom dostęp do usług w zamian za dane i ekspozycję na ukierunkowane reklamy, dlatego ich obecna dominacja rynkowa może sama w sobie stać się motorem dalszej dominacji rynkowej; zwraca uwagę, że wiele z tych przedsiębiorstw technologicznych ma siedzibę poza UE, ale udaje im się przechwytywać wartość generowaną przez dane dotyczące europejskich klientów, dzięki czemu zyskują przewagę konkurencyjną;
66. #
z zadowoleniem przyjmuje niedawny komunikat Komisji wzywający do uaktualnienia zasad konkurencji, aby dostosować je do ery cyfrowej,(29) i podkreśla kluczową rolę środków ex ante – w tym przyszłego aktu o rynkach cyfrowych – w przeciwdziałaniu koncentracji jeszcze przed jej powstaniem; podkreśla ponadto rolę, jaką w rozwiązaniu tego problemu może odegrać standaryzacja i współpraca regulacyjna poprzez ułatwienie globalnego rozwoju produktów i usług niezależnie od ich fizycznej lokalizacji;
67. #
podkreśla, że MŚP i przedsiębiorstwa typu start-up odgrywają zasadniczą rolę we wprowadzaniu technologii AI do UE, gdyż reprezentują większość przedsiębiorstw i są krytycznym źródłem innowacji; zauważa jednak, że obiecujące przedsiębiorstwa typu start-up działające w obszarze AI napotykają poważne przeszkody w ekspansji w całej Europie ze względu na niekompletny jednolity rynek cyfrowy i rozbieżności regulacyjne w wielu państwach członkowskich lub, jeśli się rozwijają, są przejmowane przez duże przedsiębiorstwa technologiczne; ubolewa, że MŚP często borykają się z brakiem środków finansowych, skomplikowanymi procedurami administracyjnymi oraz brakiem odpowiednich umiejętności i dostępu do informacji; zauważa, że w przeszłości unijne organy ds. konkurencji zezwalały na większość zagranicznych przejęć europejskich przedsiębiorstw zajmujących się AI i robotyką;
68. #
podkreśla, że intensywne korzystanie z algorytmów, np. do ustalania cen, może również prowadzić do zupełnie nowych problemów związanych z AI na jednolitym rynku; zauważa, że organy antymonopolowe mogą mieć na przykład trudności z udowodnieniem zmowy cenowej między systemami ustalania cen opartymi na AI; dodaje ponadto, że kilku dostawców AI, którzy już uczestniczą w obrocie giełdowym, może stanowić ryzyko systemowe dla rynków finansowych, w tym poprzez zmowę; podkreśla, że zmowę algorytmiczną może być bardzo trudno wykryć, ponieważ w przypadku zmowy systemy oparte na AI nie muszą komunikować się ze sobą w taki sposób jak ludzie, co może uniemożliwić udowodnienie zamiaru zmowy; podkreśla zagrożenie, jakie stanowi to dla stabilności rynku, oraz potrzebę opracowania przez unijne i krajowe organy ds. konkurencji odpowiednich strategii i narzędzi; zwraca ponadto uwagę na ryzyko systemowe dla rynków finansowych wynikające z powszechnego stosowania modeli i systemów handlu algorytmicznego bez jakiejkolwiek interakcji z człowiekiem, które w przeszłości znacznie nasiliły ruchy na rynku, co prawdopodobnie powtórzy się w przyszłości;
69. #
zauważa, że wiele przedsiębiorstw działających w obszarze AI w UE doświadcza obecnie braku pewności prawa, chcąc rozwijać swoje produkty i usługi w gwarantowanym otoczeniu, co wynika z przeszkód biurokratycznych, nakładania się istniejących przepisów sektorowych oraz braku ustalonych norm i standardów dotyczących AI;
70. #
podkreśla stojące przed przedsiębiorstwami zajmującymi się AI wyzwania w zakresie kontroli jakości i ochrony konsumentów; stwierdza, że przejrzystość i wiarygodność mają zasadnicze znaczenie dla zapewnienia unijnym przedsiębiorstwom przewagi konkurencyjnej, ponieważ w przyszłości to właśnie te względy zadecydują o tym, czy dany produkt lub usługa zostaną ostatecznie zaakceptowane przez rynek;
71. #
zwraca uwagę, że chociaż 26 % wartościowych publikacji badawczych dotyczących AI pochodzi z Europy, tylko czterech na 30 największych wnioskodawców (13 %) i 7 % przedsiębiorstw zaangażowanych w zgłaszanie patentów AI na świecie to przedsiębiorstwa europejskie;
72. #
uważa, że unijne prawo własności intelektualnej wymaga harmonizacji oraz jasnego i przejrzystego egzekwowania, a także zrównoważonych, egzekwowalnych i przewidywalnych ram umożliwiających europejskim przedsiębiorstwom, a w szczególności MŚP i nowym firmom, zapewnienie ochrony własności intelektualnej;
73. #
jest zaniepokojony faktem, że MŚP nadal w niewielkim stopniu korzystają z ochrony własności intelektualnej, ponieważ często nie są w pełni świadome swoich praw ani nie mają wystarczających zasobów, aby ich bronić; podkreśla znaczenie informacji i statystyk dotyczących ochrony własności intelektualnej wśród MŚP działających w sektorach wymagających specjalistycznej wiedzy i z zadowoleniem przyjmuje wysiłki, w tym uproszczone procedury rejestracji i niższe opłaty administracyjne, mające na celu dostarczenie MŚP i przedsiębiorstwom typu start-up lepszej wiedzy i ułatwienie im dostępu do ochrony własności intelektualnej; zauważa, że aby pomóc unijnym przedsiębiorstwom w ochronie ich praw własności intelektualnej w zakresie AI, należy wzmocnić pozycję UE jako podmiotu wyznaczającego światowe standardy; podkreśla, że międzynarodowa konkurencyjność i atrakcyjność jest zakorzeniona w silnym i prężnym jednolitym rynku, w tym w ochronie i egzekwowaniu praw własności intelektualnej;
74. #
stwierdza, że analityka danych, a także dostęp do danych nieosobowych, ich udostępnianie i ponowne wykorzystywanie mają już dzisiaj zasadnicze znaczenie dla wielu produktów i usług opartych na danych, a będą istotne dla rozwoju i wdrożenia przyszłych systemów AI; podkreśla jednak, że większość danych nieosobowych generowanych w UE nie jest jak dotąd wykorzystywana, a jednolity rynek danych dopiero się tworzy;
75. #
zwraca uwagę na znaczenie ułatwienia dostępu do danych i ich udostępniania, a także otwartych standardów i technologii open source jako sposobu na zwiększenie inwestycji i pobudzenie innowacji w zakresie technologii AI w UE; stwierdza, że dla twórców AI przydatna byłaby lepsza harmonizacja interpretacji przedstawianych przez krajowe organy ochrony danych, a także wytyczne dotyczące danych mieszanych i technik depersonalizacji;
76. #
podkreśla rolę, jaką AI może odegrać we wspieraniu działań organów europejskich i krajowych w zakresie egzekwowania prawa, zwłaszcza w dziedzinie nadzoru celnego i rynkowego; jest zdania, że dzięki AI procedury handlowe i celne mogą stać się skuteczniejsze i bardziej opłacalne poprzez zwiększenie zgodności z przepisami i zagwarantowanie, że na jednolity rynek trafiają wyłącznie bezpieczne produkty; wskazuje na przykład systemu oceny i zarządzania dochodami kanadyjskiej agencji służb granicznych, który znacznie upraszcza procedury importu i eksportu (CARM), wykorzystując kwalifikowaną ocenę ryzyka AI i usprawnione zarządzanie informacjami w formie cyfrowej w celu ograniczenia konieczności przeprowadzania długotrwałych kontroli;
#
e) AI a rynek pracy #
77. #
zauważa, że AI w coraz większym stopniu wpływa na rynek pracy, miejsce pracy i sferę społeczną oraz że wpływ zmian technologicznych na pracę i zatrudnienie jest wieloaspektowy; podkreśla, że wykorzystanie AI w tym obszarze rodzi szereg wyzwań etycznych, prawnych i związanych z zatrudnieniem; wyraża zaniepokojenie, że na rynku pracy cyfryzacja może doprowadzić do reorganizacji siły roboczej i potencjalnego zaniku niektórych sektorów zatrudnienia; uważa, że przyjęcie AI – jeśli zostanie połączone z niezbędną infrastrukturą wsparcia, edukacją i szkoleniem – może zwiększyć wydajność kapitału i pracy, innowacyjność, trwały wzrost i tworzenie miejsc pracy;
78. #
podkreśla, że choć AI może zastąpić niektóre zadania, w tym zadania powtarzalne, ciężkie, pracochłonne lub niebezpieczne, może również pomóc w doskonaleniu umiejętności, podnoszeniu jakości pracy i tworzeniu nowych miejsc pracy o wyższej wartości dodanej, pozostawiając więcej czasu na stymulujące zadania i rozwój kariery; podkreśla, że AI już obecnie zastępuje lub uzupełnia ludzi w pewnej liczbie zadań, ale nie ma jeszcze znaczących konsekwencji dla rynku pracy(30); podkreśla jednak możliwość wzrostu nierówności w dochodach, jeśli AI zwiększy liczbę zawodów wymagających wysokich kwalifikacji i zastąpi zawody wymagające niskich kwalifikacji; dodaje, że wszelkie wynikające z tego skutki gospodarcze i społeczne należy złagodzić za pomocą odpowiednich środków, badań i prognozowania, a także przygotować się na nie poprzez inwestowanie w przekwalifikowanie i podnoszenie kwalifikacji siły roboczej, ze szczególnym uwzględnieniem grup niedostatecznie reprezentowanych, takich jak kobiety i mniejszości, które prawdopodobnie najbardziej odczują skutki tej transformacji, oraz poprzez promowanie różnorodności na wszystkich etapach rozwoju systemów AI; wyraża zaniepokojenie, że AI może prowadzić do procesów obniżania kwalifikacji oraz tworzyć i utrwalać nisko płatną i mało autonomiczną pracę, a także rozszerzać zakres nietypowej, elastycznej (lub dorywczej) pracy; podkreśla, że zarządzanie algorytmiczne może prowadzić do braku równowagi sił między kierownictwem a pracownikami oraz do niejasności w procesie podejmowania decyzji;
79. #
podkreśla, że wprowadzenie AI stwarza możliwość wspierania znaczących zmian kultury w organizacjach, w tym poprzez poprawę bezpieczeństwa w miejscu pracy, lepszą równowagę między życiem zawodowym i prywatnym oraz oferowanie pracownikom prawa do bycia offline i bardziej efektywnych możliwości szkolenia i poradnictwa; wskazuje w tym względzie na zalecenia OECD, w których podkreśla się, że automatyzacja może również przyczynić się do skrócenia czasu pracy, poprawiając tym samym warunki życia i stan zdrowia pracowników; jest zdania, że zastosowania AI wzmacniające pozycję człowieka mogłyby również stworzyć nowe możliwości zatrudnienia, w szczególności dla osób, które ze względu na ograniczenia, takie jak niepełnosprawność lub sytuacja życiowa, były do tej pory skazane na pracę wymagającą niższych kwalifikacji; podkreśla potrzebę wykorzystania pomocy w postaci AI w miejscu pracy, aby zapewnić ludziom czas na poprawę jakości ich pracy, a nie tylko zwiększyć obciążenie pracą;
80. #
potępia coraz częstsze stosowanie w miejscu pracy nadzoru opartego na sztucznej inteligencji, który nierzadko odbywa się bez wiedzy, a tym bardziej bez zgody pracowników, zwłaszcza w kontekście telepracy; podkreśla, że praktyka ta nie powinna być dopuszczana, gdyż stanowi skrajne naruszenie podstawowego prawa do prywatności, ochrony danych i godności ludzkiej pracownika oraz praw socjalnych i pracowniczych, a także wywiera negatywny wpływ na jego zdrowie psychiczne ze względu na stopień ingerencji, jej powszechny lub masowy charakter oraz brak zabezpieczeń dla osób nią dotkniętych;
81. #
wyraża zaniepokojenie, że podobne ryzyko nadzoru występuje również w środowisku szkolnym, wraz z coraz częstszym przyjmowaniem systemów AI w szkołach, co narusza podstawowe prawa dzieci; zauważa, że skutki AI dla prywatności, ochrony i bezpieczeństwa dzieci obejmują szerokie spektrum, od korzyści związanych z możliwością zrozumienia zagrożeń stojących przed dziećmi z większą szczegółowością i dokładnością po ryzyko związane z niezamierzonym naruszeniem prywatności; podkreśla, że zarówno pozytywny, jak i negatywny wpływ na prywatność, bezpieczeństwo i ochronę dzieci wymaga dokładnej analizy i odpowiednich zabezpieczeń; ponadto podkreśla, że podczas opracowywania systemów AI należy zwrócić szczególną uwagę na dzieci i zapewnić im ochronę ze względu na ich szczególnie wrażliwy charakter i szczególną podatność na zagrożenia;
82. #
podkreśla, że sprawą nadrzędną jest zapewnienie jednostkom kompleksowych programów rozwoju umiejętności na wszystkich etapach życia, aby umożliwić im zachowanie produktywności w stale zmieniającym się miejscu pracy i uniknąć ich wykluczenia z rynku pracy; uważa, że dostosowanie siły roboczej pod względem edukacji AI, uczenia się przez całe życie i przekwalifikowania ma kluczowe znaczenie; podkreśla, że obecne koncepcje uczenia się i pracy są nadal nadmiernie związane ze światem przedcyfrowym, co przyczynia się do pogłębiania niedoboru umiejętności i powstawania nowej przepaści cyfrowej w przypadku obywateli, którzy nie mają dostępu do bezpiecznej przestrzeni cyfrowej; zaznacza, że zwiększanie umiejętności cyfrowych przyczynia się do realizacji celów ONZ w zakresie zrównoważonego rozwoju, w szczególności celów dotyczących edukacji, kapitału ludzkiego i infrastruktury; podkreśla, że kryzys związany z COVID-19 przyniósł nam wiedzę na temat nowych form pracy i uczenia się oraz można prowadzić dalsze badania w tej dziedzinie;
83. #
podkreśla, że aby w pełni czerpać korzyści z cyfryzacji, Unia musi zająć się kwestią umiejętności cyfrowych i umiejętności dla wszystkich; uważa, że umiejętności cyfrowe są warunkiem wstępnym zaufania obywateli do AI i publicznej świadomości skutków AI; podkreśla znaczenie włączenia podstawowych szkoleń w zakresie umiejętności cyfrowych i AI do krajowych systemów edukacji; uważa, że wdrożenie i rozwój technologii AI w dziedzinie języków mniejszościowych może doprowadzić do wzrostu ich znajomości i wykorzystania; podkreśla, że ponad 70 % przedsiębiorstw zgłasza brak pracowników o odpowiednich umiejętnościach w zakresie technologii cyfrowych i AI jako przeszkodę dla inwestycji; jest zaniepokojony faktem, że w 2019 r. w UE było 7,8 mln specjalistów ds. ICT, a wcześniejsza roczna stopa wzrostu wynosiła 4,2 %, w związku z czym jest to liczba o wiele mniejsza od 20 mln ekspertów wymaganych zgodnie z prognozami Komisji w kluczowych obszarach takich jak analiza danych;
84. #
jest zaniepokojony znaczną różnicą w liczbie kobiet i mężczyzn zatrudnionych w tym obszarze, gdyż tylko co szósty specjalista w dziedzinie ICT i co trzeci absolwent nauk ścisłych, technologii, inżynierii i matematyki (STEM) to kobieta(31); z niepokojem zauważa, że przepaść między kobietami a mężczyznami utrzymuje się, zwłaszcza w obszarze przedsiębiorstw typu start-up, gdzie w 2019 r. na każde 100 USD zainwestowanych w europejskie przedsiębiorstwa technologiczne 92 USD trafiły do zespołów założycielskich składających się wyłącznie z mężczyzn; zaleca ukierunkowane inicjatywy na rzecz wspierania kobiet w STEM, aby zlikwidować ogólną niedostatek kompetencji w tym sektorze; podkreśla, że niedostatek ten nieuchronnie prowadzi do stronniczych algorytmów; akcentuje znaczenie wzmacniania pozycji dziewcząt i motywowania ich do kariery w STEM oraz likwidowania różnic w traktowaniu płci w tym obszarze;
f) AI a przyszłość demokracji #
85. #
stwierdza, że AI z jednej strony może przyczynić się do stworzenia bardziej przejrzystego i wydajnego sektora publicznego, ale z drugiej strony rozwój techniczny w obszarze AI, często napędzany logiką wzrostu i zysków, jest bardzo szybki i dynamiczny, co utrudnia decydentom dostateczne zrozumienie, jak działają nowe zastosowania AI i jakie wyniki mogą przynieść, choć mają oni obowiązek zapewnić ramy gwarantujące zgodność AI z prawami podstawowymi i możliwość wykorzystania AI z korzyścią dla społeczeństwa; podkreśla, że prognozy ekspertów dotyczące przyszłego wpływu AI również się różnią, co sugeruje, że nawet im może być trudno przewidzieć skutki zastosowania nowych technologii AI; twierdzi zatem, że z powodu tej niepewności ustawodawcy muszą odpowiednio uwzględnić zasadę ostrożności przy regulowaniu AI; uważa, że kluczowe znaczenie dla stworzenia solidnego, wykonalnego i przyszłościowego prawodawstwa ma konsultowanie się z ekspertami mającymi różną wiedzę fachową i doświadczenie; przestrzega, że niepewność prawa może być jedną z największych przeszkód dla innowacji; w związku z tym zauważa znaczenie promowania kompetencji w zakresie sztucznej inteligencji wśród obywateli, w tym wybranych przedstawicieli i władz krajowych;
86 #
. ostrzega, że w związku z tym cykle ustawodawcze są często niezsynchronizowane z postępem technologicznym, co zmusza decydentów do nadrabiania zaległości i faworyzowania uregulowań dotyczących przypadków użycia już występujących na rynku; zwraca uwagę, że rozsądne podejście regulacyjne do AI musi być poprzedzone wyczerpującą analizą proporcjonalności i konieczności, aby uniknąć hamowania innowacji i konkurencyjności przedsiębiorstw UE;
87. #
podkreśla, że stosowanie AI w celu uzyskania danych biometrycznych może być zarówno uciążliwe, i szkodliwe, jak i korzystne dla danej osoby, a także dla ogółu społeczeństwa;
88. #
z niepokojem odnotowuje, że takie technologie AI wiążą się z zasadniczymi kwestiami etycznymi i prawnymi; zauważa, że niektóre technologie AI umożliwiają automatyzację przetwarzania informacji na niespotykaną dotąd skalę, co toruje drogę masowemu nadzorowi i innym bezprawnym ingerencjom oraz stanowi zagrożenie dla praw podstawowych, w szczególności prawa do prywatności i ochrony danych;
89. #
podkreśla, że wiele reżimów autorytarnych wykorzystuje systemy AI do kontrolowania, sprawowania masowego nadzoru, szpiegowania, monitorowania i szeregowania swoich obywateli lub ograniczania swobody przemieszczania się; podkreśla, że wszelkie formy normatywnej oceny punktowej obywateli przez organy publiczne, zwłaszcza w obszarze ścigania przestępstw, kontroli granicznej i wymiaru sprawiedliwości, a także jej wykorzystywanie przez przedsiębiorstwa prywatne lub osoby fizyczne prowadzą do utraty autonomii i prywatności, niosą ze sobą ryzyko dyskryminacji i nie są zgodne z wartościami europejskimi; przypomina, że technologie, takie jak cybernadzór i rozpoznawanie biometryczne, które mogą być wykorzystywane w tych celach, podlegają unijnemu rozporządzeniu w sprawie kontroli eksportu; jest mocno zaniepokojony przypadkami sprzedaży – przez przedsiębiorstwa UE reżimom autorytarnym w krajach spoza UE – systemów biometrycznych, których stosowanie w UE byłoby nielegalne, i potępia tę praktykę;
90. #
zauważa, że obecnie dominujące platformy technologiczne nie tylko sprawują istotną kontrolę nad dostępem do informacji i ich rozpowszechnianiem, lecz także wykorzystują technologie AI do uzyskiwania większej ilości informacji na temat tożsamości osoby, jej zachowania i historii podejmowania decyzji; uważa, że takie profilowanie stanowi zagrożenie dla systemów demokratycznych, a także dla ochrony praw podstawowych i autonomii obywateli; podkreśla, że prowadzi to do braku równowagi sił i stwarza ryzyko systemowe, które może mieć wpływ na demokrację;
91. #
zwraca uwagę, że platformy cyfrowe mogą – w tym za pośrednictwem aplikacji marketingowych opartych na AI – być wykorzystywane do ingerencji z zewnątrz oraz do szerzenia dezinformacji i deepfake’ów, działając jako sieci propagandy, trollingu i nękania w celu osłabienia procesów wyborczych; podkreśla, że uczenie maszynowe umożliwia w szczególności ukierunkowane wykorzystanie danych osobowych do manipulowania nieświadomymi wyborcami poprzez tworzenie spersonalizowanych i przekonujących komunikatów; podkreśla znaczenie silnych i skutecznie egzekwowanych zobowiązań w zakresie przejrzystości;
92. #
podkreśla, że AI mogłaby jednak być również wykorzystywana do ograniczania antydemokratycznych i nieetycznych działań na platformach oraz jako środek ograniczający rozpowszechnianie fałszywych wiadomości i nawoływania do nienawiści, mimo że testy zdolności AI do rozumienia treści kontekstowych dały jak dotąd słabe wyniki; wyraża zaniepokojenie, że język wprowadzający podziały może prowadzić do większego zaangażowania użytkowników, dlatego też usunięcie takiego języka stałoby w bezpośredniej sprzeczności z modelem biznesowym takich platform, który opiera się na maksymalizacji zaangażowania użytkowników; jest zdania, że rozwiązania bazujące na AI muszą być oparte na pełnym poszanowaniu wolności słowa i wyrażania opinii oraz na mocnych dowodach przemawiających na korzyść tych rozwiązań, zanim zostaną ostatecznie zastosowane;
93. #
zwraca uwagę, że stronniczość w systemach AI, zwłaszcza w przypadku systemów uczenia głębokiego, często wynika z braku zróżnicowanych danych treningowych i testowych wysokiej jakości, na przykład przy wykorzystaniu zbiorów danych, które nie są wystarczająco reprezentatywne dla słabszych grup, lub gdy definicja zadania albo same wymagania są stronnicze; zauważa, że stronniczość może również wynikać z potencjalnego braku różnorodności w zespołach programistów, powielających istniejące wewnętrznie uprzedzenia z powodu ograniczonej ilości danych szkoleniowych i testowych lub w sytuacji, gdy stronniczy programista AI stworzy niewłaściwy algorytm; zwraca uwagę, że uzasadnione zróżnicowanie tworzy się również celowo, aby w pewnych okolicznościach poprawić wyniki uczenia się AI;
94. #
podkreśla, że uprzedzenia strukturalne obecne w naszym społeczeństwie nie powinny być powielane czy wręcz pogłębiane przez zbiory danych niskiej jakości; w związku z tym uściśla, że algorytmy uczą się dyskryminacyjności, jaką wykazują dane, z którymi pracują, a w wyniku niskiej jakości danych treningowych lub uprzedzeń i dyskryminacji zaobserwowanych w społeczeństwie mogą sugerować decyzje, które są z natury dyskryminujące, co pogłębia dyskryminację w społeczeństwie; zauważa jednak, że uprzedzenia w AI można czasem korygować; stwierdza, że w celu zminimalizowania tego ryzyka konieczne jest zatem zastosowanie środków technicznych i ustanowienie różnych poziomów kontroli systemów AI, w tym oprogramowania, algorytmów i danych wykorzystywanych i tworzonych przez te systemy; twierdzi, że AI może i powinna być wykorzystywana do ograniczania uprzedzeń i dyskryminacji oraz do promowania równych praw i pozytywnych zmian społecznych w naszych społeczeństwach, w tym poprzez wymogi normatywne dotyczące zbiorów danych wykorzystywanych do szkolenia systemów AI; podkreśla, że jednym z najskuteczniejszych sposobów ograniczania stronniczości w systemach AI jest zapewnienie, w zakresie dopuszczalnym przez prawo Unii, by do celów treningowych i uczenia maszynowego dostępne były maksymalne ilości danych nieosobowych;
g) Powtarzające się wnioski we wszystkich sześciu studiach przypadku #
95. #
zauważa, że z przyjęciem technologii AI wiążą się wyraźne korzyści i możliwości społeczne, które można wykorzystać jedynie pod warunkiem usunięcia w UE przeszkód o charakterze przekrojowym, zgodnie z prawami podstawowymi, wartościami i prawodawstwem; stwierdza, że nakładanie się przepisów, fragmentacja rynku, przeszkody biurokratyczne, brak dostępnej infrastruktury cyfrowej i umiejętności cyfrowych w szerszym społeczeństwie oraz niewystarczające inwestycje w badania i rozwój można zaobserwować w szczególności jako przeszkody w skutecznym stosowaniu zaufanej AI we wszystkich analizowanych obszarach;
96. #
z przeanalizowanych studiów przypadków wynika ponadto, że istnieją pewne przypadki użycia, które są ryzykowne lub szkodliwe, ale niekoniecznie dotyczy to samych technologii AI, lecz obszarów ich zastosowania; uznaje, że przyszłe regulacje muszą uwzględniać uzasadnione obawy związane z tym ryzykiem, aby technologie AI mogły znaleźć szerokie zastosowanie w UE;
97. #
stwierdza, że choć ważne jest zbadanie i skategoryzowanie potencjalnych zagrożeń stwarzanych przez AI, studia przypadków pokazały, że technologie AI mogą dostarczyć nam skutecznych środków zaradczych, które mogą łagodzić lub eliminować to ryzyko; podkreśla, że AI wciąż znajduje się na wczesnych etapach rozwoju w szerszym kontekście powstających technologii, dlatego jej pełny potencjał i zagrożenia nie są pewne; zwraca uwagę, że należy przyjrzeć się nie tylko zagrożeniom dla jednostek, lecz także szerszym szkodom społecznym i niematerialnym szkodom dla jednostek; podkreśla znaczny brak równowagi sił rynkowych na rynkach danych i w przyległej gospodarce opartej na AI; podkreśla, że uczciwa konkurencja i usuwanie przeszkód w konkurencji dla przedsiębiorstw typu start-up oraz MŚP mają zasadnicze znaczenie dla sprawiedliwego podziału potencjalnych korzyści płynących z AI w kategoriach gospodarczych i społecznych, które wydają się znaczące zarówno w UE, jak i na świecie;
#
3.Miejsce UE w globalnej konkurencji w obszarze AI #
98. #
zauważa ostrą globalną konkurencję w obszarze AI, w którym UE nie spełniła jeszcze swoich aspiracji; w kolejnych częściach analizuje globalną konkurencyjność UE w obszarze AI, porównując ją z konkurencyjnością Chin i USA, i skupiając się na trzech podstawowych elementach: podejściu regulacyjnym, pozycji rynkowej i inwestycjach; uznaje jednak, że granice rynków i korporacji transnarodowych niełatwo wytyczyć ponad granicami państw, ponieważ większość przedsiębiorstw technologicznych ma klientów, udziałowców, pracowników i dostawców w wielu różnych krajach;
a) Podejście regulacyjne #
99. #
zauważa, że USA nie wprowadziły jeszcze horyzontalnego prawodawstwa w dziedzinie cyfrowej i jak dotąd koncentrowały się na przepisach sektorowych i ułatwianiu inwestycji, w tym poprzez środki podatkowe nałożone na innowacje w sektorze prywatnym, zwłaszcza wśród gigantów technologicznych i czołowych uniwersytetów; zauważa, że pomimo ostatnich wydarzeń wskazujących na bardziej aktywną rolę USA w kształtowaniu polityki ich podejście jak dotąd odzwierciedlało głównie koncentrację na udzielaniu przedsiębiorstwom wskazówek prawnych, inwestowaniu w projekty badawcze i usuwaniu postrzeganych przez nie barier dla innowacji;
100. #
podkreśla, że amerykańska ustawa z 2019 r. w sprawie inicjatywy w obszarze AI wprowadziła pewne dostosowania, gdyż oprócz przekierowania finansowania, przekwalifikowania pracowników i wzmocnienia infrastruktury cyfrowej amerykański rząd ogłosił opracowanie wspólnych norm wiarygodnej AI; zauważa jednak, że powstałe w ten sposób 10 zasad zostało sformułowanych bardzo ogólnie, aby umożliwić każdej agencji rządowej stworzenie regulacji sektorowych; oczekuje, że chociaż obecna administracja USA planuje przedstawić w 2022 r. nową ustawę o prawach w celu ograniczenia szkód wyrządzanych przez AI, podejście USA pozostanie oparte na zasadach rynkowych;
101. #
podkreśla, że prezydent Chin Xi Jinping już w 2013 r. akcentował znaczenie technologii w geopolityce, rolę polityki publicznej w określaniu celów długoterminowych oraz fakt, że technologie AI dają możliwość przywrócenia potęgi militarnej; podkreśla ponadto, że chiński rząd zaprezentował następnie w 2015 r. plan „Made in China 2025”, a w 2017 r. plan rozwoju AI nowej generacji, które obejmowały jasny cel, jakim jest osiągnięcie przez Chiny pozycji lidera w obszarze AI do 2030 r.; zauważa, że w białej księdze dotyczącej standaryzacji AI z 2018 r. w Chinach bardziej szczegółowo nakreślono, w jaki sposób socjalistyczna gospodarka rynkowa może opracowywać międzynarodowe normy i strategicznie angażować się w działalność międzynarodowych organizacji normalizacyjnych; odnotowuje wprowadzenie przepisów dotyczących systemów rekomendacji, a także kodeksu etycznego dotyczącego AI w Chinach;
102. #
zauważa, że na arenie światowej Chiny aktywnie promują międzynarodowe partnerstwa w zakresie AI jako sposób eksportowania własnych praktyk nadzoru opartych na AI, systemu scoringu obywateli i strategii cenzury; podkreśla, że duże inwestycje zagraniczne w ramach inicjatywy Cyfrowego Jedwabnego Szlaku są również wykorzystywane jako środek do globalnego rozprzestrzeniania chińskich wpływów i technologii AI, co może mieć dalekosiężne konsekwencje, wykraczające poza narzucanie standardów technologicznych lub utrzymywanie konkurencyjności technologicznej; stwierdza, że podejście rządu chińskiego opiera się zatem na wdrażaniu AI w kraju oraz na eksportowaniu technologii AI na podstawie wcześniej ustalonych standardów zgodnych z ideologią rządu chińskiego;
103. #
odnotowuje, że Komisja rozpoczęła prace nad uregulowaniem AI w 2018 r., publikując europejską strategię w zakresie sztucznej inteligencji, powołując grupę ekspertów wysokiego szczebla i wprowadzając skoordynowany plan(32) wspierania „AI made in Europe”; zauważa, że w białej księdze w sprawie AI z 2020 r. zaproponowano liczne środki i warianty strategiczne dotyczące przyszłego uregulowania AI i ostatecznie zaowocowało to horyzontalnym aktem w sprawie sztucznej inteligencji(33), który przedstawiono wraz ze zmienionym skoordynowanym planem w sprawie sztucznej inteligencji(34) w maju 2021 r.; zwraca uwagę, że według stanu na czerwiec 2021 r. 20 państw członkowskich opublikowało krajowe strategie w zakresie AI, a siedem kolejnych znajduje się na końcowych etapach przygotowawczych do przyjęcia swoich strategii;
104. #
podkreśla, że centralnym elementem podejścia regulacyjnego UE jest zwrócenie szczególnej uwagi na rozwój europejskiego jednolitego rynku cyfrowego, a także względy etyczne zgodne z podstawowymi wartościami praw człowieka i zasadami demokracji; uznaje, że ustanowienie pierwszych na świecie ram regulacyjnych dla AI mogłoby dać UE możliwość wywierania nacisku i przewagę w zakresie ustalania międzynarodowych standardów AI opartych na prawach podstawowych, a także skutecznego eksportowania na cały świat „wiarygodnej sztucznej inteligencji” ukierunkowanej na człowieka; podkreśla, że podejście to musi być wspierane przez koordynację regulacyjną i konwergencję z partnerami międzynarodowymi;
b) Sytuacja na rynku #
105. #
zauważa, że wiele spośród 100 pierwszoplanowych firm zajmujących się sztuczną inteligencją na świecie ma siedzibę w USA, a tylko kilka z nich znajduje się w UE; zauważa, że USA przodują również pod względem łącznej liczby nowych firm zajmujących się sztuczną inteligencją;
106. #
zwraca uwagę, że w ostatnich latach kilka europejskich przedsiębiorstw cyfrowych zostało przejętych przez amerykańskich gigantów technologicznych; z zadowoleniem przyjmuje ambicje Komisji dotyczące rozwiązania problemu przejęć, które mogą mieć znaczący wpływ na skuteczną konkurencję na rynku cyfrowym, oraz ograniczenia zabójczych przejęć; zwraca jednak uwagę, że w niektórych przypadkach przejęcie może być głównym celem twórców start-upów i ich fundatorów, jako jedna z legalnych metod czerpania korzyści z ich pomysłów;
107. #
podkreśla, że podczas gdy USA i Chiny starają się przyspieszyć zastosowanie technologii AI w sektorze publicznym i prywatnym, UE pozostaje w tyle pod względem przyjmowania AI; stwierdza, że w 2020 r. tylko 7 % unijnych przedsiębiorstw zatrudniających co najmniej 10 pracowników wykorzystywało technologie AI, przy czym istnieją znaczne różnice między państwami członkowskimi oraz między różnymi sektorami biznesu;
108. #
wyraża zaniepokojenie faktem, że podczas gdy USA i Chiny mają ujednolicony rynek cyfrowy ze spójnym zestawem przepisów, jednolity rynek cyfrowy UE nadal nie jest kompletny i charakteryzuje się nieuzasadnionymi barierami; podkreśla, że rozwój produktów i usług związanych z AI może zostać dodatkowo spowolniony przez trwające prace nad 27 różnymi krajowymi strategiami dotyczącymi AI;
109. #
zwraca także uwagę na fakt, że niespójności w prawie UE nakładające się na różne inicjatywy legislacyjne, sprzeczności pomiędzy prawem UE a przepisami krajowymi, odmienne interpretacje prawne oraz brak egzekwowania przepisów przez państwa członkowskie uniemożliwiają stworzenie równych warunków działania i stwarzają ryzyko niepewności prawnej dla firm europejskich, ponieważ mogą one mieć trudności z ustaleniem, czy ich innowacje w zakresie AI są zgodne z prawem UE;
110. #
zauważa, że rozdrobnienie rynku przedsiębiorstw zajmujących się sztuczną inteligencją pogłębia brak wspólnych standardów i norm w niektórych sektorach, w tym w zakresie interoperacyjności danych; ubolewa nad ryzykiem regulacyjnym wynikającym z opóźnień w opracowywaniu przepisów, takich jak rozporządzenie o prywatności i łączności elektronicznej; podkreśla jako przykład fakt, że unijni twórcy AI stoją przed wyzwaniem związanym z danymi – z którym nie muszą mierzyć się ich amerykańscy ani chińscy koledzy – ze względu na niekompletny europejski jednolity rynek cyfrowy; zauważa, że często nie mają oni wystarczających ilości danych wysokiej jakości do trenowania i testowania swoich algorytmów oraz doświadczają braku przestrzeni danych sektorowych i interoperacyjności międzysektorowej, a także ograniczeń w transgranicznych przepływach danych;
c) Inwestycje #
111. #
zauważa, że europejskie firmy i rządy inwestują w technologie AI znacznie mniej niż USA czy Chiny; zwraca uwagę, że chociaż prywatne inwestycje w unijną branżę AI znacznie wzrastają, AI w UE jest nadal znacznie niedoinwestowana w porównaniu z innymi przodującymi regionami, ponieważ na USA i Chiny przypada ponad 80 % z 25 mld EUR rocznych inwestycji kapitałowych w AI i blockchain, podczas gdy udział UE wynosi jedynie 7 % czyli ok. 1,75 mld EUR; podkreśla, że płynność unijnych rynków finansowych w przypadku przedsiębiorstw technologicznych nadal nie dorównuje skali porównywalnych rynków w USA; zauważa, że USA przodują również w finansowaniu kapitałem wysokiego ryzyka i kapitałem prywatnym, co jest szczególnie istotne dla przedsiębiorstw typu start-up prowadzących działalność w zakresie AI: 12,6 mld EUR w 2019 r., w porównaniu z 4,9 mld EUR w Chinach i 2,8 mld EUR w UE; zauważa, że w związku z tym europejscy przedsiębiorcy z branży AI udają się za Atlantyk, aby rozwijać swoje firmy w USA;
112. #
stwierdza, że wraz z inicjatywami krajowymi szacowane roczne inwestycje publiczne UE w AI w wysokości 1 mld EUR(35) są znacznie niższe niż 5,1 mld EUR inwestowane rocznie w USA i 6,8 mld EUR w Chinach(36); stwierdza jednak, że w latach 2017–2020 finansowanie publiczne UE na badania i innowacje w zakresie AI wzrosło o 70 % w porównaniu z poprzednim okresem, a w 2019 r. UE zainwestowała w AI od 7,9 do 9 mld EUR, czyli o 39 % więcej niż w poprzednim roku; uznaje i z zadowoleniem przyjmuje plan Komisji dotyczący dalszego zwiększania inwestycji w ramach programu „Cyfrowa Europa”, programu „Horyzont Europa”, InvestEU, europejskich funduszy strukturalnych i inwestycyjnych, Europejskiego Funduszu Inwestycyjnego, instrumentu „Łącząc Europę” w sektorze telekomunikacji oraz różnych programów polityki spójności, które będą dodatkowo uzupełniane i wspierane celem wydatków na poziomie co najmniej 20 % dla transformacji cyfrowej w krajowych planach odbudowy i zwiększania odporności, co zostało uzgodnione przez Komisję i państwa członkowskie w ramach Instrumentu na rzecz Odbudowy i Zwiększania Odporności; podkreśla jednak niedawne sprawozdanie Europejskiego Banku Inwestycyjnego, w którym niedobór inwestycji UE w obszarze AI i technologii blockchain oszacowano na 5–10 mld EUR rocznie;
113. #
podkreśla, że przedsiębiorstwa AI w UE muszą silnie konkurować o wykwalifikowanych pracowników, co zaostrza fakt, że 42 % ludności UE nie ma podstawowych umiejętności informatycznych; podkreśla potrzebę szkolenia i przyciągnięcia znacznie większej liczby dobrze wykształconych absolwentów, w tym kobiet, do pracy w sektorze cyfrowym;
114. #
zauważa, że choć UE dysponuje doskonałą społecznością badaczy zajmujących się AI, problemem pozostaje drenaż mózgów wśród badaczy z UE; podkreśla, że potrzebne są środki pozwalające przyciągnąć czołowych badaczy; zauważa, że w 2020 r. UE przeznaczyła na badania i rozwój jedynie 2,32 % swojego PKB, podczas gdy USA – 3,08 %; przypomina, że państwa członkowskie muszą dotrzymać zobowiązania do inwestowania 3 % swojego PKB w badania i rozwój, aby zapewnić Unii strategiczną autonomię w dziedzinie cyfrowej;
115. #
zauważa, że unijna infrastruktura cyfrowa wymaga znacznej aktualizacji, gdyż tylko 25 % ludzi w UE może połączyć się z siecią 5G, w porównaniu z 76 % ludzi w USA; zauważa, że UE nie posiada wystarczającej infrastruktury cyfrowej o wysokiej wydajności charakteryzującej się interoperacyjnymi przestrzeniami danych, dużymi prędkościami przesyłu i ilościami przesyłanych danych, wiarygodnością i niewielkimi opóźnieniami; podkreśla potrzebę wspierania europejskich ekosystemów AI za pomocą klastrów doskonałości;
d) Wniosek #
116. #
stwierdza, że USA są ogólnym liderem w obszarze AI, ponieważ przodują w wielu kategoriach, a przedsiębiorstwa z siedzibą w USA są liderami rozwoju technologii w takich dziedzinach, jak chmura obliczeniowa i możliwości obliczeniowe wielkiej skali, a także – jeśli chodzi o inwestycje – przyciąganie talentów w obszarze AI, badania i infrastruktura; podkreśla jednak, że Chiny, które jeszcze kilka lat temu były znacznie opóźnione w stosunku do USA pod względem wszystkich wskaźników, szybko nadrabiają zaległości; uznaje, że oba kraje mają przewagę w postaci jednolitego rynku i silniejszego zaangażowania w utrzymanie pozycji lidera w obszarze AI;
117. #
podkreśla, że pomimo silnej pozycji UE w zakresie oprogramowania przemysłowego i robotyki podmioty z UE w wielu kategoriach nadal pozostają w tyle za swoimi odpowiednikami z USA i Chin; podkreśla, że UE powinna opracować ambitny plan na rzecz europejskiej AI ukierunkowanej na człowieka; zauważa, że UE jest jednak w czołówce pod względem podejścia regulacyjnego; zwraca uwagę, że realna strategia UE na rzecz zwiększenia konkurencyjności w zakresie AI obejmuje skupienie się na badaniach i innowacjach, umiejętnościach, infrastrukturze i inwestycjach, przy jednoczesnym dążeniu do ustanowienia przyszłościowych, horyzontalnych i sprzyjających innowacjom ram prawnych dla rozwoju i wykorzystania AI, a także jednoczesnym zapewnieniu ochrony praw podstawowych obywateli UE i praworządności;
118. #
zwraca uwagę, że brexit miał negatywny wpływ na wysiłki UE zmierzające do wzmocnienia jej globalnej pozycji w obszarze AI, ponieważ Zjednoczone Królestwo było jednym z czołowych krajów UE w tej dziedzinie; podkreśla jednak, że Zjednoczone Królestwo powinno pozostać cenionym partnerem UE wspierającym konkurencyjność obydwu partnerów oraz promowanie wspólnych perspektyw regulacyjnych w ramach globalnego ustanawiania standardów;
119. #
stwierdza, że UE jest obecnie nadal daleka od spełnienia swoich aspiracji do uzyskania konkurencyjności w obszarze AI na poziomie globalnym, a w niektórych kategoriach grozi jej jeszcze większe opóźnienie; uważa, że szybkie działanie w ramach przedstawionego poniżej planu działania UE na rzecz AI stwarza szansę na zmianę tej sytuacji;
120. #
podkreśla, że UE nie posiada uprawnień legislacyjnych do zajęcia się wszystkimi punktami wymienionymi w planie działania UE na rzecz AI, dlatego komisja specjalna zaleca prowadzenie dalszych dyskusji na wysokim szczeblu oraz procesów politycznych między instytucjami UE i państwami członkowskimi w celu dążenia do bardziej zharmonizowanego podejścia do AI oraz pomocy państwom członkowskim w koordynowaniu ich wysiłków; odnosi się w tym względzie do strategii lizbońskiej UE z 2000 r., która pomimo krytyki odegrała istotną rolę w ukierunkowaniu polityki UE w okresie 20 lat i w wywieraniu nacisku na państwa członkowskie w celu przeprowadzenia reform;
#
4. Europa na miarę ery cyfrowej – plan działania na rzecz zdobycia pozycji globalnego lidera #
a) Korzystne otoczenie regulacyjne #
i. Stanowienie prawa #
121. #
wzywa Komisję do proponowania aktów ustawodawczych w formie rozporządzeń dotyczących nowych przepisów cyfrowych w dziedzinach takich jak AI, ponieważ jednolity rynek cyfrowy musi przejść proces prawdziwej harmonizacji; jest przekonany, że ze względu na szybki rozwój technologiczny prawodawstwo cyfrowe powinno być zawsze elastyczne, oparte na zasadach, neutralne pod względem technologicznym, przyszłościowe i proporcjonalne, a w stosownych przypadkach powinno przyjmować podejście oparte na ryzyku, bazować na poszanowaniu praw podstawowych i zapobiegać niepotrzebnym dodatkowym obciążeniom administracyjnym dla MŚP, przedsiębiorstw rozpoczynających działalność, środowisk akademickich i badawczych; zwraca ponadto uwagę na znaczenie dużej pewności prawa, a w rezultacie na zapotrzebowanie na solidne, praktyczne i jasne kryteria zastosowania, definicje i obowiązki we wszystkich tekstach prawnych dotyczących sprzedaży, stosowania lub rozwoju technologii AI;
122. #
uważa, że Program lepszego stanowienia prawa ma kluczowe znaczenie dla powodzenia unijnej strategii w zakresie sztucznej inteligencji; podkreśla potrzebę skupienia się na przeglądzie, dostosowaniu, wdrożeniu i mechanizmach egzekwowania już istniejących przepisów, zanim zaproponuje się nowe akty prawne;
123. #
wzywa Komisję do przeprowadzania dogłębnych ocen skutków ex ante z odpowiednim prognozami i analizą ryzyka, zanim przedstawi ona nowe wnioski w sprawie technologii cyfrowych w obszarach takich jak AI; podkreśla, że oceny wpływu powinny systematycznie określać i oceniać odpowiednie istniejące przepisy, zapobiegając ich pokrywaniu się lub konfliktom;
124. #
sugeruje, aby nowe przepisy prawne w obszarach takich jak AI zostały uzupełnione promowaniem europejskich norm opracowanych przez zainteresowane strony; jest zdania, że UE powinna dążyć do uniknięcia rozdrobnienia oraz że normy międzynarodowe mogąsłużyć jako przydatny punkt odniesienia, lecz UE powinna nadać priorytet opracowywaniu własnych norm; podkreśla, że takie normy powinny być wynikiem uczciwej konkurencji o najlepsze normy w UE, na co powinna zareagować UE i organizacje normalizacyjne; zauważa, że normy techniczne i instrukcje dotyczące projektowania można by wówczas połączyć z systemami oznakowania jako sposób budowania zaufania konsumentów poprzez dostarczanie godnych zaufania usług i produktów; podkreśla rolę unijnych organizacji normalizacyjnych w opracowywaniu najnowocześniejszych norm technicznych; wzywa Komisję do przyspieszenia wydawania mandatów normalizacyjnych europejskim organizacjom normalizacyjnym zgodnie z rozporządzeniem Parlamentu Europejskiego i Rady (UE) nr 1025/2012 z dnia 25 października 2012 r. w sprawie normalizacji europejskiej(37);
125. #
wyjaśnia, że otwarta platforma certyfikacji mogłaby stworzyć ekosystem zaufania, w którym uczestniczyłyby rządy, społeczeństwo obywatelskie, przedsiębiorstwa i inne zainteresowane strony;
126. #
wzywa Parlament, Komisję i Radę do poprawy ich zdolności radzenia sobie z wewnętrznymi sporami kompetencyjnymi w przypadku nadrzędnych tematów takich jak AI, gdyż spory takie grożą opóźnieniami w procedurze ustawodawczej, wraz ze skutkami ubocznymi pod względem wejścia przepisów w życie;
ii. Zarządzanie i egzekwowanie #
127. #
domaga się spójnego, ogólnounijnego koordynowania, wdrażania i egzekwowania przyszłych przepisów w sprawie AI;
128. #
wyjaśnia, że obiecującym podejściem do zarządzania są fora konsultacyjne z udziałem zainteresowanych stron, takie jak Rada ds. Innowacji w zakresie Danych, która ma zostać ustanowiona na mocy aktu w sprawie zarządzania danymi, lub europejski sojusz na rzecz sztucznej inteligencji, który obejmuje partnerstwa prywatno-publiczne, takie jak europejski sojusz na rzecz danych, technologii przetwarzania brzegowego i rozwiązań chmurowych w przemyśle; stwierdza, że takie podejście umożliwia unijnemu ekosystemowi AI wcielenie w życie jego zasad, wartości i celów oraz odzwierciedlenie interesów społecznych na poziomie kodu oprogramowania;
129. #
podkreśla, że problem dysproporcji tempa tworzenia regulacji względem tempa rozwoju technologicznego [ang. pacing problem] wymaga zwrócenia szczególnej uwagi na skuteczne egzekwowanie przepisów ex post przez sądy i agencje regulacyjne, a także na podejścia ex ante w celu sprostania wyzwaniom prawnym związanym z nowymi technologiami; popiera w związku z tym wykorzystanie piaskownic regulacyjnych, które dałyby twórcom AI wyjątkową szansę na eksperymentowanie w szybki, sprawny i kontrolowany sposób pod nadzorem właściwych organów; zauważa, że te piaskownice regulacyjne byłyby przestrzeniami eksperymentalnymi, w których testowano by systemy AI i nowe modele biznesowe w warunkach rzeczywistych w kontrolowanym środowisku, zanim weszłyby one na rynek;
iii. Ramy prawne dla AI #
130. #
podkreśla, że podstawowym celem strategii cyfrowej UE, jak również strategii w zakresie AI, jest stworzenie „europejskiej drogi” w zdigitalizowanym świecie; wyjaśnia, że podejście to powinno być ukierunkowane na człowieka, godne zaufania, obejmować zasady etyczne i opierać się na koncepcji społecznej gospodarki rynkowej; podkreśla, że jednostka i ochrona jej praw podstawowych powinny zawsze pozostawać w centrum wszystkich rozważań politycznych i legislacyjnych;
131. #
zgadza się z wnioskiem wyciągniętym przez Komisję w białej księdze w sprawie sztucznej inteligencji z 2020 r., że istnieje potrzeba ustanowienia opartych na ryzyku ram prawnych dla AI, obejmujących w szczególności wysokie normy etyczne oparte na przejrzystości, weryfikowalności i rozliczalności w powiązaniu z przepisami dotyczącymi bezpieczeństwa produktów, odpowiednimi zasadami dotyczącymi odpowiedzialności i przepisami sektorowymi, z jednoczesnym zapewnieniem przedsiębiorstwom i użytkownikom wystarczającej elastyczności, pewności prawa i równych warunków działania, aby wspierać wprowadzanie AI i związanych z nią innowacji;
132. #
zwraca uwagę na przewodnią wartość dodaną, jaką stanowi przyjęcie koncepcji, terminologii i standardów opracowanych przez OECD jako inspiracji dla definicji AI w prawodawstwie; podkreśla, że dałoby to UE przewagę w kształtowaniu przyszłego międzynarodowego systemu zarządzania AI;
133. #
wyraża przekonanie, że to nie AI jako technologia powinna podlegać regulacji, a rodzaj, intensywność i czas interwencji regulacyjnych powinny być proporcjonalne do rodzaju ryzyka indywidualnego lub społecznego wynikającego z zastosowania systemu AI; podkreśla w związku z tym znaczenie rozróżnienia między przypadkami zastosowania AI „wysokiego ryzyka” i „niskiego ryzyka”; stwierdza, że ta pierwsza kategoria wymaga surowych dodatkowych zabezpieczeń prawnych, natomiast w wielu przypadkach zastosowania „niskiego ryzyka” konieczne może być nałożenie wymogów przejrzystości dla użytkowników końcowych i konsumentów;
134. #
podkreśla, że klasyfikacja systemów AI jako systemów „wysokiego ryzyka” powinna opierać się na ich konkretnym zastosowaniu oraz na kontekście, charakterze, prawdopodobieństwie, dotkliwości i potencjalnej nieodwracalności szkód, których wystąpienia można się spodziewać w wyniku naruszenia praw podstawowych oraz przepisów w zakresie zdrowia i bezpieczeństwa określonych w prawie Unii; podkreśla, że klasyfikacji tej powinny towarzyszyć wytyczne i promowanie wymiany najlepszych praktyk dla twórców AI; zaznacza, że zawsze należy przestrzegać prawa do prywatności, a twórcy AI powinni zagwarantować pełne przestrzeganie przepisów dotyczących ochrony danych;
135. #
podkreśla, że systemy AI, które mogą wchodzić w interakcje z dziećmi lub w inny sposób na nie oddziaływać, muszą uwzględniać ich prawa i podatność na zagrożenia oraz spełniać najwyższe dostępne normy bezpieczeństwa, ochrony i prywatności w fazie projektowania i jako opcji domyślnej;
136. #
zauważa, że otoczenie, w którym działają systemy AI, może być inne w środowisku między przedsiębiorstwami (B2B) niż w środowisku między przedsiębiorstwami a konsumentami (B2C); zwraca uwagę, że prawa konsumentów muszą być prawnie chronione za pomocą przepisów o ochronie konsumentów; podkreśla, że podczas gdy przedsiębiorstwa mogą rozwiązać problemy dotyczące odpowiedzialności i inne kwestie prawne szybko i bardziej opłacalnie za pomocą bezpośrednich środków umownych z partnerami biznesowymi, to ustawodawstwo może być niezbędne do ochrony mniejszych przedsiębiorstw przed nadużywaniem siły rynkowej przez podmioty dominujące poprzez uzależnienie handlowe lub technologiczne od jednego dostawcy, bariery utrudniające wejście na rynek lub problemy związane z asymetrycznymi informacjami; podkreśla, że konieczne jest także uwzględnienie potrzeb MŚP i przedsiębiorstw typu start-up o złożonych wymaganiach, aby uniknąć stawiania ich w niekorzystnej sytuacji w porównaniu z większymi przedsiębiorstwami, które dysponują zasobami pozwalającymi na utrzymywanie dużych działów prawnych i działów ds. zgodności z przepisami;
137. #
podkreśla potrzebę stosowania opartego na zasadach podejścia do otwartych kwestii etycznych wynikających z nowych możliwości technologicznych powstałych w wyniku sprzedaży i wykorzystywania aplikacji opartych na sztucznej inteligencji, w tym poprzez stosowanie podstawowych, obowiązkowych zasad, takich jak zasada nieszkodzenia, zasada poszanowania godności ludzkiej i praw podstawowych czy ochrona procesu demokratycznego; zauważa, że dobre praktyki w zakresie rozwoju AI, takie jak AI ukierunkowana na człowieka, odpowiedzialne zarządzanie oraz zasady przejrzystości i wyjaśnialności, a także zasady zrównoważonej AI, które są w pełni zgodne z Agendą na rzecz zrównoważonego rozwoju 2030, stanowią inne istotne elementy kształtowania gospodarki opartej na AI;
138. #
przyznaje, że całkowite pozbycie się uprzedzeń algorytmów AI nie zawsze jest możliwe, ponieważ osiągnięcie idealnego celu, jakim są bezbłędne dane, jest bardzo trudne lub prawie niemożliwe; zauważa, że nawet przetestowany system AI nieuchronnie napotka w warunkach rzeczywistych scenariusze, które mogą prowadzić do nieobiektywnych wyników, jeśli zostanie zastosowany w otoczeniu różniącym się od danych treningowych i testowych; podkreśla, że UE powinna dążyć do zwiększenia przejrzystości zbiorów danych i algorytmów, ściśle współpracować z twórcami AI w celu zrównoważenia i ograniczenia strukturalnych uprzedzeń społecznych oraz rozważyć wprowadzenie obowiązkowych zasad należytej staranności w zakresie praw człowieka na wczesnym etapie rozwoju;
139. #
wyjaśnia, że mające głęboki sens obowiązki dotyczące przejrzystości lub wyjaśnialności dla systemów AI, chociaż są pomocne w wielu przypadkach, mogą być niemożliwe do wdrożenia za każdym razem; zauważa, że prawa własności intelektualnej i tajemnice handlowe muszą być chronione przed nielegalnymi praktykami, takimi jak szpiegostwo przemysłowe;
140. #
stwierdza, że ramy prawne dotyczące własności intelektualnej muszą nadal zachęcać i chronić innowatorów AI poprzez przyznawanie im patentów w nagrodę za opracowywanie i publikowanie ich dzieł; uznaje, że istniejące prawa w dużej mierze zachowują aktualność, ale proponuje pewne dostosowania, w tym integrację elementów otwartego oprogramowania, wykorzystanie zamówień publicznych w celu dopuszczenia, w odpowiednich przypadkach, rozwiązań cyfrowych AI opartych na otwartym oprogramowaniu; proponuje nowe formy licencji na korzystanie z patentów, aby zapewnić dostępność narzędzi dla regionów i inicjatyw, których w przeciwnym wypadku nie byłoby na nie stać;
141. #
uważa, że obowiązkowa samoocena ryzyka ex ante oparta na jasnych zasadach i normach, a także ocena wpływu na ochronę danych, uzupełniona ocenami zgodności przeprowadzanymi przez osoby trzecie wraz z odpowiednim i właściwym oznakowaniem CE, w połączeniu z egzekwowaniem ex post przez nadzór rynkowy, mogłyby być przydatne do zapewnienia bezpieczeństwa i wiarygodności systemów AI na rynku; uważa, że aby zapobiec wypchnięciu MŚP z rynku, należy opracowywać normy i wytyczne dotyczące zgodności z przepisami dotyczącymi AI przy ścisłym udziale małych przedsiębiorstw, w jak największym stopniu dostosowane do warunków międzynarodowych i dostępne bezpłatnie;
142. #
zauważa, że aby zwiększyć bezpieczeństwo produktów i usprawnić identyfikowanie usterek, programiści zajmujący się AI wysokiego ryzyka powinni być zobligowani co najmniej do zapewnienia bezpiecznego utrzymywania dostępnych rejestrów działań algorytmicznych; uważa, że w stosownych przypadkach twórcy powinni projektować systemy AI wysokiego ryzyka z wbudowanymi mechanizmami, „przyciskami stop”, umożliwiającymi interwencję człowieka w celu bezpiecznego i skutecznego zatrzymania zautomatyzowanych działań w dowolnym momencie oraz zapewnienia stosowania zasady udziału czynnika ludzkiego; uważa, że wyniki i tok działania systemu AI powinny być zawsze zrozumiałe dla człowieka;
143. #
dostrzega wyzwania prawne powodowane przez systemy AI oraz potrzebę rozważenia przeglądu określonych części istniejących przepisów dotyczących odpowiedzialności; w związku z tym oczekuje na przedstawienie przez Komisję wniosku ustawodawczego w sprawie odpowiedzialności za AI; podkreśla, że dyrektywa w sprawie odpowiedzialności za produkty(38) oraz krajowe systemy odpowiedzialności oparte na zasadzie winy mogą zasadniczo pozostać głównymi aktami prawnymi służącymi przeciwdziałaniu większości szkód powodowanych przez AI; podkreśla, że w niektórych przypadkach prowadziłoby to do nieodpowiednich wyników, ale ostrzega, że wszelka zmiana powinna uwzględniać istniejące przepisy w sprawie bezpieczeństwa produktów i wynikać z jasno określonych niedostatków, a przy tym być dostosowana do przyszłych wyzwań i możliwa do skutecznego wdrożenia oraz zapewnienia ochrony osób w UE;
144. #
podkreśla, że ramy prawne nie powinny nakładać na dzieci takiego samego poziomu osobistej odpowiedzialności za rozumienie ryzyka jak na dorosłych;
145. #
zauważa, że można jednak rozważyć niektóre zmiany prawnych definicji „produktu”, w tym zintegrowanych aplikacji oprogramowania, usług cyfrowych i zależności między produktami, oraz „producenta”, w tym operatora końcowego, usługodawcy i dostawcy danych, by zapewnić dostępność rekompensat za szkody wywołane tymi technologiami; podkreśla jednak, że należy unikać nadmiernie szeroko zakrojonego lub nadmiernie ograniczonego podejścia do definicji „produktu”;
146. #
zwraca uwagę, że ze względu na cechy systemów AI, takie jak ich złożoność, dołączalność, nieprzejrzystość, podatność na zagrożenia, zdolność do modyfikacji poprzez aktualizacje, zdolność do samouczenia się i potencjalna autonomia, a także mnogość podmiotów zaangażowanych w ich opracowywanie, wdrażanie i wykorzystywanie, istnieją poważne wyzwania na polu skuteczności unijnych i krajowych przepisów ramowych dotyczących odpowiedzialności; uważa zatem, że choć nie ma potrzeby całkowitej zmiany dobrze funkcjonujących systemów odpowiedzialności, niemniej konieczne są konkretne i skoordynowane dostosowania europejskich i krajowych systemów odpowiedzialności, aby uniknąć sytuacji pozbawienia odszkodowania osób poszkodowanych lub których mienie zostało zniszczone; uznaje, że o ile systemy AI wysokiego ryzyka powinny podlegać surowym przepisom dotyczącym odpowiedzialności, połączonym z obowiązkowym ubezpieczeniem, o tyle wszelkie inne działania, urządzenia lub procesy sterowane przez systemy AI, które powodują szkody, powinny nadal podlegać odpowiedzialności na zasadzie winy; uważa, że osoba poszkodowana powinna jednak korzystać z domniemania winy operatora, chyba że jest on w stanie udowodnić, że dopełnił obowiązku dochowania należytej staranności;
iv. Wyzwania związane z danymi w UE #
147. #
odnotowuje wnioski sformułowane przez Komisję w komunikacie na 2020 r. zatytułowanym „Europejska strategia w zakresie danych” oraz przez Parlament w rezolucji z 25 marca 2021 r. na ten sam temat, w których stwierdzono, że utworzenie jednolitej europejskiej przestrzeni danych, któremu towarzyszy rozwój sektorowych przestrzeni danych oraz skupienie się na wspólnych standardach, ma kluczowe znaczenie dla zapewnienia szybkiej skalowalności rozwiązań w zakresie AI w UE i poza nią, a także dla zapewnienia otwartej autonomii strategicznej UE i dobrobytu gospodarczego; przypomina o zasadniczym związku między dostępnością wysokiej jakości danych a rozwojem aplikacji AI; podkreśla w związku z tym potrzebę wprowadzenia w UE solidnych, niezawodnych i interoperacyjnych usług w chmurze, a także rozwiązań wykorzystujących zdecentralizowaną analitykę danych i architekturę brzegową; wzywa Komisję do wyjaśnienia praw posiadaczy współtworzonych danych nieosobowych do dostępu do danych, korzystania z nich i dzielenia się nimi; podkreśla, że dostęp do danych musi być technicznie możliwy, w tym poprzez interoperacyjne znormalizowane interfejsy i interoperacyjne oprogramowanie; podkreśla, że bariery w dzieleniu się danymi prowadzą do zmniejszenia innowacyjności, ograniczenia konkurencji i rozwoju oligopolistycznych struktur rynkowych, które są obarczone dużym ryzykiem utrwalenia się na sąsiednim rynku aplikacji sztucznej inteligencji;
148. #
podkreśla kluczowe znaczenie otwarcia silosów danych i ułatwienia dostępu do danych badaczom sztucznej inteligencji i przedsiębiorstwom, zgodnie z rezolucją Parlamentu w sprawie europejskiej strategii w zakresie danych; podkreśla, że brak równowagi rynkowej wynikający z coraz większego ograniczania danych przez przedsiębiorstwa prywatne zwiększa bariery we wchodzeniu na rynek i zawęża dostęp do danych i ich wykorzystanie, co szczególnie utrudnia przedsiębiorstwom typu start-up i naukowcom pozyskiwanie lub licencjonowanie danych, których potrzebują do trenowania swoich algorytmów; akcentuje potrzebę ustanowienia wymaganej pewności prawnej i interoperacyjnej infrastruktury technicznej, a jednocześnie motywowania posiadaczy danych w Europie do udostępniania dużych ilości niewykorzystanych danych; uważa, że dobrowolna wymiana danych między przedsiębiorstwami na podstawie uczciwych ustaleń umownych przyczynia się do osiągnięcia tego celu; przyznaje jednak, że porozumienia umowne B2B niekoniecznie gwarantują MŚP odpowiedni dostęp do danych ze względu na różnice w sile negocjacyjnej lub wiedzy specjalistycznej; podkreśla, że otwarte rynki danych ułatwiają wymianę danych, pomagając przedsiębiorstwom zajmującym się AI i naukowcom w nabywaniu lub licencjonowaniu danych od podmiotów chcących udostępnić dane na takich rynkach, które obejmują katalogi danych i umożliwiają posiadaczom i użytkownikom danych negocjowanie transakcji udostępniania danych; w tym kontekście z zadowoleniem przyjmuje przepisy dotyczące usług pośrednictwa w zakresie danych zawarte w akcie w sprawie zarządzania danymi;
149. #
z zadowoleniem przyjmuje inicjatywy europejskiej federacji chmury obliczeniowej, takie jak europejski sojusz na rzecz danych, technologii przetwarzania brzegowego i rozwiązań chmurowych w przemyśle, a także projekt GAIA-X, które mają na celu rozwój federacyjnej infrastruktury danych i stworzenie ekosystemu umożliwiającego skalowalność, interoperacyjność i samostanowienie dostawców danych; zauważa, że unijny zbiór przepisów dotyczących chmury obliczeniowej pomógłby również przełożyć wspólne unijne zasady i wartości na wykonywalne procesy i kontrole dla techników;
150. #
zaleca dalsze wzmocnienie interoperacyjności danych i ustanowienie wspólnych standardów w celu ułatwienia przepływu danych między różnymi urządzeniami i podmiotami, zwiększenia wymiany danych między krajami i sektorami oraz umożliwienia tworzenia na dużą skalę zbiorów danych wysokiej jakości; zauważa, że zachęcanie do stosowania otwartych standardów, otwartego oprogramowania, licencji typu „creative commons” i otwartych interfejsów programowania aplikacji (API) mogłoby również odegrać kluczową rolę w przyspieszeniu wymiany danych; podkreśla rolę wspólnych europejskich przestrzeni danych w ułatwianiu swobodnego przepływu danych w europejskiej gospodarce opartej o dane;
151. #
wzywa Komisję i państwa członkowskie do zagwarantowania bardziej stanowczego egzekwowania uczciwych warunków umownych w ramach zasad konkurencji w celu rozwiązania problemu nierównowagi sił rynkowych bez nieuzasadnionej ingerencji w swobodę zawierania umów, a także do zapewnienia organom antymonopolowym odpowiednich środków i wyposażenia na potrzeby przeciwdziałania tendencjom do koncentracji danych; podkreśla, że europejskie przestrzenie danych pozwoliłyby przedsiębiorstwom na ściślejszą współpracę, dlatego też uważa, że potrzebne są dodatkowe wytyczne i jasność prawna dla przedsiębiorstw w zakresie prawa konkurencji i współpracy przy udostępnianiu i łączeniu danych; podkreśla, że współpraca w zakresie danych, w tym na potrzeby trenowania aplikacji AI lub w branży internetu rzeczy (IoT), nie powinna w żadnym wypadku ułatwiać tworzenia karteli ani tworzyć barier dla nowych podmiotów wchodzących na rynek; podkreśla znaczenie sprecyzowania praw umownych programistów i przedsiębiorstw zajmujących się AI, którzy przyczyniają się do tworzenia danych poprzez wykorzystanie algorytmów lub maszyn IoT, a w szczególności prawa do dostępu do danych, do przenoszenia danych, do wezwania drugiej strony do zaprzestania wykorzystywania danych oraz do poprawiania lub usuwania danych;
152. #
wzywa państwa członkowskie, by w odniesieniu do danych będących w posiadaniu rządu szybko wdrożyły dyrektywę w sprawie otwartych danych(39) i właściwie stosowały akt w sprawie zarządzania danymi, udostępniając (najlepiej nieodpłatnie) zbiory danych o wysokiej wartości i dostarczając je w formatach nadających się do odczytu maszynowego oraz w interoperacyjnych interfejsach API; podkreśla, że inicjatywa ta zmniejszyłaby koszty ponoszone przez organy publiczne w związku z rozpowszechnianiem i ponownym wykorzystywaniem ich danych oraz bardzo pomogłaby naukowcom i przedsiębiorstwom z UE w ulepszaniu technologii cyfrowych w takich obszarach jak AI;
153. #
apeluje o jednolite wdrażanie RODO w całej UE poprzez skuteczne i sprawne stosowanie mechanizmu spójności oraz uproszczenie różnych krajowych wykładni prawa; uważa, że istnieje również potrzeba lepszego wyposażenia organów ochrony danych, również w fachową wiedzę techniczną;
154. #
odnotowuje praktyczne wytyczne Komisji z 2019 r. dotyczące przetwarzania mieszanych zestawów danych; zwraca uwagę, że nieudostępnianie zbiorów danych handlowych nadal często stanowi najlepsze rozwiązanie dla badaczy AI i przedsiębiorstw specjalizujących się w AI ze względu na niepewność prawną co do tego, czy dane są wystarczająco zanonimizowane;
155. #
uważa, że opinia 05/2014 Grupy Roboczej Art. 29 z 10 kwietnia 2014 r. w sprawie technik anonimizacji stanowi przydatny przegląd, który można by dalej rozwinąć; wzywa Europejską Radę Ochrony Danych do przyjęcia wytycznych opartych na konkretnych zastosowaniach i odpowiednich sytuacjach dla różnych rodzajów administratorów danych i podmiotów przetwarzających dane oraz różnych sytuacji związanych z przetwarzaniem danych, w tym listy kontrolnej zawierającej wszystkie wymogi, które należy spełnić, aby dane były wystarczająco anonimowe; zauważa jednak, że techniki anonimizacji nie są obecnie w stanie zagwarantować pełnej i całkowitej ochrony prywatności, ponieważ eksperymenty wykazały, że nowoczesne systemy AI mimo wszystko są w stanie ponownie zidentyfikować osobę;
156. #
zwraca się do EROD o więcej wskazówek dla badaczy i przedsiębiorstw w dziedzinach takich jak sztuczna inteligencja, dotyczących sposobu skutecznego przetwarzania danych osobowych poza UE w sposób zgodny z ogólnym rozporządzeniem o ochronie danych;
157. #
sugeruje zatem finansowanie większej liczby badań nad standaryzacją podejścia „prywatność już na etapie projektowania” oraz promowanie rozwiązań kryptograficznych i uczenia maszynowego chroniącego prywatność, ponieważ kluczowe znaczenie ma zapewnienie możliwości wykorzystywania wysokiej jakości danych do trenowania algorytmów i wykonywania zadań AI bez naruszania prywatności; zauważa, że obiecujące są również składnice danych (ang. data trusts), certyfikaty dla aplikacji AI wysokiego ryzyka, systemy zarządzania informacjami osobowymi oraz wykorzystanie danych syntetycznych;
158. #
zachęca UE i jej państwa członkowskie do wykorzystania niedawno ustanowionego projektu OECD dotyczącego zaufanego dostępu rządów do danych osobowych przechowywanych przez sektor prywatny jako punktu odniesienia dla decydentów na całym świecie w celu wypracowania międzynarodowego rozwiązania i zbieżności przepisów dotyczących najlepszych praktyk w tej dziedzinie; podkreśla w związku z tym, że swobodny przepływ danych i metadanych przez granice międzynarodowe, przy pełnym poszanowaniu dorobku prawnego UE w zakresie ochrony danych, jest kluczowym czynnikiem umożliwiającym innowacje cyfrowe w Europie; wzywa zatem Komisję do powstrzymania się od nakładania wymogów dotyczących lokalizacji danych, z wyjątkiem sytuacji, gdy jest to konieczne do ochrony praw podstawowych, w tym ochrony danych, lub w ograniczonych, proporcjonalnych i uzasadnionych przypadkach, gdy taka polityka leży w interesie UE lub jest niezbędna do utrzymania standardów europejskich;
159. #
wzywa Komisję, by w odpowiedzi na orzeczenie Trybunału Sprawiedliwości Unii Europejskiej (TSUE), zgodnie z którym Tarcza Prywatności UE–USA jest nieważna, podjęła wszelkie środki niezbędne do zagwarantowania, że każda nowa decyzja w sprawie adekwatności w odniesieniu do USA będzie w pełni zgodna z RODO, Kartą praw podstawowych Unii Europejskiej i każdym aspektem orzeczenia TSUE, a jednocześnie uprości transatlantyckie przepływy danych; wzywa Komisję do dalszego prowadzenia rozmów z innymi państwami spoza UE na temat adekwatności danych, ponieważ jest to najlepszy sposób promowania unijnej polityki ochrony danych i umożliwienia międzynarodowej wymiany danych;
b) Ukończony jednolity rynek cyfrowy #
i. Krajowe strategie w zakresie AI #
160. #
wzywa państwa członkowskie do dokonania przeglądu krajowych strategii w zakresie AI, ponieważ wiele z nich nadal pozostaje niejasnych i nie ma jasno określonych celów, w tym dotyczących edukacji cyfrowej całego społeczeństwa oraz zaawansowanych kwalifikacji specjalistów; zaleca państwom członkowskim sformułowanie konkretnych, wymiernych i szczegółowych działań, przy jednoczesnym dążeniu do stworzenia synergii między nimi;
161. #
wzywa Komisję, aby pomogła państwom członkowskim w ustaleniu priorytetów i jak największym ujednoliceniu krajowych strategii oraz otoczenia regulacyjnego w zakresie AI w celu zapewnienia spójności i konsekwencji w całej UE; zwraca uwagę, że choć różnorodność podejść krajowych jest dobrym sposobem na ustanowienie najlepszych praktyk, programiści i badawcze zajmujący się AI napotkaliby poważne przeszkody, gdyby musieli stosować różne parametry robocze i wypełniać różne obowiązki regulacyjne w każdym z 27 państw członkowskich;
ii. Bariery na rynku #
162. #
wzywa Komisję do kontynuowania prac nad usunięciem nieuzasadnionych barier uniemożliwiających pełne urzeczywistnienie jednolitego rynku cyfrowego, w tym nadmiernej dyskryminacji ze względu na kraj, niepełnego wzajemnego uznawania kwalifikacji zawodowych, zbyt uciążliwych procedur dostępu do rynku, niepotrzebnie wysokich kosztów przestrzegania przepisów i rozbieżnych procedur oceny zgodności, a także do zajęcia się częstym stosowaniem odstępstw, co skutkuje rozbieżnymi zasadami w różnych jurysdykcjach państw członkowskich; podkreśla, że dla przedsiębiorstw działających w środowisku transgranicznym ogólnounijne przepisy dotyczące AI, w przeciwieństwie do fragmentarycznego podejścia stosowanego w poszczególnych krajach, są pożądaną zmianą, która pomoże wzmocnić pierwszoplanową rolę Europy w zakresie rozwoju i wdrażania AI;
163. #
wzywa Komisję do przyspieszenia procesu tworzenia realnej unii rynków kapitałowych; podkreśla potrzebę poprawy dostępu do środków finansowych, zwłaszcza dla MŚP, przedsiębiorstw typu start-up i scale-up;
164. #
podkreśla potrzebę szybkiego zakończenia negocjacji w sprawie rozpatrywanych wniosków ustawodawczych mających na celu ukończenie tworzenia jednolitego rynku cyfrowego;
165. #
wzywa Komisję do zapewnienia spójnego egzekwowania zasad jednolitego rynku;
166. #
zauważa, że nowe ramy prawne powinny zostać starannie zaktualizowane i dostosowane do produktów i usług cyfrowych; proponuje, by położono nacisk na unowocześnienie i uproszczenie procedur zgodności poprzez wprowadzenie cyfrowych alternatyw dla istniejących środków analogowych i papierowych, umożliwiających przedsiębiorstwom stosowanie na przykład cyfrowego oznakowania CE, elektronicznego etykietowania lub dostarczanie instrukcji bezpieczeństwa w formacie cyfrowym;
167. #
zachęca Komisję do wspierania przedsiębiorstw działających w trybie offline, które chcą przejść do trybu online; zachęca do prowadzenia dalszych kampanii informacyjnych skierowanych do MŚP i przedsiębiorstw typu start-up w oczekiwaniu na nowe i przyszłe przepisy UE w tym względzie, a także do lepszego egzekwowania zasad nadzoru rynkowego jako sposobu na zwiększenie zaufania konsumentów europejskich;
iii. Równe warunki działania #
168. #
wyraża przekonanie, że należy zreformować obecne krajowe i europejskie ramy konkurencji i przepisy antymonopolowe, aby lepiej przeciwdziałać przypadkom nadużywania pozycji rynkowej i zmowie algorytmów w gospodarce cyfrowej, na przykład w związku z gromadzeniem danych, a także lepiej uwzględniać ryzyko związane z nowymi powstającymi monopolami bez szkody dla innowacji; z zadowoleniem przyjmuje zbliżające się zatwierdzenie aktu o rynkach cyfrowych; wzywa do szczególnego rozważenia potencjalnych kwestii związanych z konkurencją w obszarze AI;
169. #
zauważa, że taka reforma powinna wzmocnić podejście oparte na dowodach oraz w większym stopniu uwzględniać wartość danych i skutki efektów sieciowych, wprowadzając jasne zasady dla platform o pozycji potentatów na rynku i zwiększając pewność prawa w przypadku współpracy w gospodarce cyfrowej;
170. #
stwierdza w związku z tym, że Komisja powinna dostosować swoje praktyki definiowania rynku, aby zdefiniować rynki w sposób bardziej precyzyjny i zgodny ze współczesnymi realiami rynkowymi w sektorze cyfrowym, przeprowadzając analizę dynamiczną i przyjmując perspektywę długoterminową w celu oceny istnienia presji konkurencyjnej;
171. #
wzywa Komisję i krajowe organy ds. konkurencji do zwiększenia wysiłków na rzecz stałego monitorowania rynków cyfrowych, co pozwoli zidentyfikować presję konkurencyjną i problemy trwale ograniczające konkurencję, a następnie częściej stosować środki naprawcze wobec przedsiębiorstw, które nadużywają swojej dominującej pozycji lub dopuszczają się zachowań antykonkurencyjnych;
172. #
apeluje do państw członkowskich o znaczne zwiększenie funduszy i zdolności technicznych organów ds. konkurencji w celu zapewnienia skutecznego i szybkiego egzekwowania reguł konkurencji w szybko rozwijającej się i złożonej gospodarce cyfrowej; podkreśla, że organy ds. ochrony konkurencji powinny przyspieszać postępowania w sprawie nadużyć oraz, w razie potrzeby, stosować środki tymczasowe w celu ochrony i wspierania uczciwej konkurencji, gwarantując jednocześnie przedsiębiorstwom proceduralne prawo do obrony;
c) Zielona infrastruktura cyfrowa #
i. Łączność i moc obliczeniowa #
173. #
wzywa Komisję do działań służących osiągnięciu ambitnego celu, jakim jest zachęcenie 75 % europejskich przedsiębiorstw do skorzystania z usług w chmurze, dużych zbiorów danych i AI do 2030 r., aby zachować globalną konkurencyjność i przyspieszyć realizację celów neutralności klimatycznej, a dzięki temu zapewnić ich osiągnięcie do 2050 r.; stwierdza, że kwota 2,07 mld EUR przeznaczona na finansowanie infrastruktury cyfrowej w ramach instrumentu „Łącząc Europę” jest niewystarczająca;
174. #
podkreśla, że zmiana ilości i sposobu przetwarzania danych dla AI wymaga także opracowania i wdrożenia nowych technologii przetwarzania danych obejmujących przetwarzanie brzegowe, aby odejść od scentralizowanych modeli opartych na chmurze w kierunku zwiększonej decentralizacji zdolności przetwarzania danych; apeluje o zwiększenie inwestycji i badań w zakresie klastrów obliczeń rozproszonych, węzłów brzegowych i inicjatyw dotyczących mikrokontrolerów cyfrowych; zauważa, że przejście do szerokiego wykorzystania rozwiązań brzegowych może być bardziej zasobochłonne, ponieważ utracone zostaną korzyści wynikające z optymalizacji łączenia zasobów, i podkreśla, że w europejskiej strategii dotyczącej chmury obliczeniowej należy przeanalizować koszty i korzyści środowiskowe infrastruktur brzegowych na poziomie systemowym, w tym w celu optymalizacji zużycia energii przez AI;
175. #
podkreśla, że AI wymaga potężnego sprzętu komputerowego, aby zapewnić użyteczność zaawansowanych algorytmów, w tym obliczeń wielkiej skali i obliczeń kwantowych oraz internetu rzeczy; apeluje o stałe zwiększanie ukierunkowanego finansowania publicznego i prywatnego na rzecz innowacyjnych rozwiązań zmniejszających zużycie energii, w tym ekoprojektu oprogramowania; wzywa do opracowania na szczeblu UE norm dotyczących pomiaru wykorzystania zasobów przez infrastrukturę cyfrową na podstawie najlepszych praktyk; wyraża zaniepokojenie światowym kryzysem mikroprocesorów i w związku z tym z zadowoleniem przyjmuje wniosek Komisji dotyczący aktu w sprawie chipów, który ma zmniejszyć obecną zależność UE od dostawców zewnętrznych; ostrzega jednak przed przyszłymi zagrożeniami związanymi z nadmiarem mocy produkcyjnych na rynku i zaleca ostrożne rozważenie cyklu inwestycyjnego;
176. #
podkreśla, że funkcjonowanie i szybka infrastruktura AI muszą opierać się na sprawiedliwej i bezpiecznej cyfrowej łączności dużej prędkości, co wymaga wprowadzenia sieci 5G we wszystkich obszarach miejskich do 2030 r., a także szerokiego dostępu do ultraszybkich sieci szerokopasmowych i polityki widma z warunkami licencji, które zapewniają przewidywalność, sprzyjają inwestycjom długoterminowym i nie zakłócają konkurencji; wzywa państwa członkowskie do dalszego wdrażania zestawu narzędzi 5G; apeluje o wprowadzenie w życie dyrektywy w sprawie ograniczenia kosztów sieci szerokopasmowych(40), by ułatwić wdrażanie sieci; wzywa Komisję do przeprowadzenia oceny oddziaływania na środowisko w odniesieniu do sieci 5G; podkreśla znaczenie przeciwdziałania – za pomocą strategii komunikacyjnej UE – rozprzestrzenianiu się dezinformacji związanej z sieciami 5G; w związku z tym zwraca uwagę, że szeroko zakrojona i inkluzywna debata ostatecznie przyczyni się do zbudowania zaufania obywateli do działań na rzecz ciągłego rozwoju sieci ruchomych;
177. #
wzywa Komisję do ustalenia harmonogramów dla państw członkowskich, miast, regionów i przemysłu oraz do usprawnienia administracyjnych procesów zatwierdzania sieci 5G; domaga się, by w regionach, w których wdrażaniem zajmuje się sektor publiczny, udostępniono więcej środków na zapewnienie szybkiej łączności społecznościom oddalonym i przyczynienie się do zniwelowania przepaści cyfrowej; domaga się wspierania projektów dotyczących sieci szerokopasmowych i łączności na podstawie wieloletnich ram finansowych, z zapewnieniem łatwiejszego dostępu dla organów lokalnych, aby uniknąć niepełnego wykorzystania funduszy publicznych;
178. #
wzywa Komisję do oceny powiązań między AI a nową generacją infrastruktury cyfrowej, by umożliwić Europie objęcie pozycji lidera w dziedzinie sieci nowej generacji, w tym 6G;
179. #
domaga się jasnej strategii w sprawie wdrożenia sieci światłowodowej oraz wprowadzenia sieci szerokopasmowych na obszarach wiejskich, co jest także kluczowe dla technologii o dużej przepustowości danych, takich jak AI; apeluje w tym względzie o zwiększenie wsparcia Europejskiego Banku Inwestycyjnego dla projektów dotyczących łączności na obszarach wiejskich;
180. #
podkreśla, że istotne inwestycje wymagane do wdrożenia sieci, a także szybkie wdrożenie, które byłoby konieczne do osiągnięcia ambitnych celów wyznaczonych w cyfrowym kompasie, wymagają porozumień w sprawie współdzieleniu infrastruktury, które mają także kluczowe znaczenie dla promowania zrównoważonego charakteru i ograniczania zużycia energii; podkreśla, że wysiłki te są wciąż w początkowej fazie i należy je dalej rozszerzać;
ii. Zrównoważony charakter #
181. #
wzywa UE do odegrania czołowej roli w gwarantowaniu neutralności klimatycznej i efektywności energetycznej zielonej infrastruktury cyfrowej do 2030 r. zgodnie z celami porozumienia paryskiego i w połączeniu z europejskim programem politycznym dotyczącym Zielonego Ładu, w tym poprzez ocenę wpływu na środowisko wielkoskalowych wdrożeń systemów opartych na AI, z uwzględnieniem zwiększonego zapotrzebowania na energię związanego z rozwojem i wykorzystaniem AI; wzywa do podjęcia skoordynowanych globalnych działań wielostronnych w celu wykorzystania AI w walce ze zmianą klimatu oraz degradacją środowiskową i ekologiczną, a także utratą bioróżnorodności;
182. #
apeluje o wykorzystanie AI do monitorowania zużycia energii w gminach oraz opracowywania środków z zakresu efektywności energetycznej;
183. #
zauważa, że niektóre zastosowania AI na dużą skalę wymagają dużej ilości danych i zasobów, a także dostrzega ich wpływ na środowisko; przypomina, że aby europejska AI była zrównoważona i odpowiedzialna ekologicznie, systemy AI powinny być projektowane, opracowywane i wdrażane z myślą o urzeczywistnieniu transformacji ekologicznej, neutralności klimatycznej i gospodarki o obiegu zamkniętym;
184. #
wzywa Komisję do zachęcania do korzystania z energooszczędnych ośrodków przetwarzania danych, które mogą przyczynić się do neutralności pod względem emisji dwutlenku węgla;
185. #
podkreśla, że obecny brak wymiany informacji między ośrodkami przetwarzania danych utrudnia podejmowanie odpowiednich działań publicznych i uzyskanie porównawczego przeglądu ekologiczności ośrodków przetwarzania danych; apeluje o znaczne zwiększenie liczby ocen oddziaływania na środowisko przeprowadzanych w związku z rozwojem AI; apeluje o opracowanie wymogów zapewniających dostępność odpowiednich dowodów w celu zmierzenia śladu środowiskowego aplikacji AI na dużą skalę; wskazuje na potrzebę opracowania jasnych zasad i wytycznych dotyczących ocen oddziaływania AI na środowisko, w tym wielokryterialnych ocen cyklu życia; apeluje o zapewnienie otwartego dostępu do kluczowych wskaźników efektywności środowiskowej ośrodków przetwarzania danych, opracowania norm UE oraz stworzenia unijnego ekologicznego oznakowania chmur obliczeniowych;
186. #
apeluje o opracowanie planu gospodarki o obiegu zamkniętym dla technologii cyfrowych i AI oraz podkreśla, że UE powinna zagwarantować solidny łańcuch recyklingu ICT;
187. #
zaleca propagowanie rozwiązań opartych na AI, zgodnie z dwojaką transformacją ekologiczną i cyfrową we wszystkich sektorach, w celu koordynowania zrównoważonych standardów dla przedsiębiorstw i umożliwienia monitorowania efektywności energetycznej oraz gromadzenia informacji na temat emisji i cyklu życia produktów;
188. #
wzywa Komisję do ogłaszania konkursów i misji dotyczących rozwiązań z zakresu AI w odniesieniu do konkretnych problemów środowiskowych oraz do uwypuklenia tego elementu w programie „Horyzont Europa” i „Cyfrowa Europa”; przypomina, że projekty związane z potencjałem AI w zakresie rozwiązywania problemów środowiskowych powinny być realizowane na podstawie odpowiedzialnych i etycznych badań naukowych i innowacji;
189. #
wzywa Komisję do opracowania kryteriów środowiskowych i powiązania przyznania budżetu UE, finansowania i procedur udzielania zamówień publicznych dotyczących AI z jej efektywnością środowiskową;
190. #
wzywa Komisję do wspierania inteligentnych miast, obejmujących inteligentne budynki, inteligentne sieci, samochody podłączone do internetu, platformy mobilności, usługi publiczne i logistykę; popiera opracowanie wspólnego zbioru najlepszych praktyk w zakresie projektów i zastosowań; podkreśla, że inteligentne miasta wymagają dobrej współpracy między władzami państwowymi i lokalnymi, a także między ich agencjami i podmiotami prywatnymi;
191. #
podkreśla potrzebę zdefiniowania zasad gwarantujących możliwość włączenia odpowiednich danych dotyczących zrównoważonego rozwoju i klimatu podczas tworzenia nowych przestrzeni danych dotyczących zrównoważonego rozwoju;
192. #
wzywa Komisję do współpracy z państwami członkowskimi i sektorem prywatnym nad tworzeniem i wspieraniem ośrodków badawczych, w których zastosowania oparte na AI mogłyby być testowane pod kątem ich wyników w zakresie zrównoważonego rozwoju, oraz do oferowania wskazówek dotyczących sposobów poprawy śladu środowiskowego tych zastosowań; zachęca do dostosowania istniejących ośrodków badawczych, tak aby skupiały się na przypadkach użycia w produkcji o obiegu zamkniętym;
193. #
wzywa Komisję do promowania zrównoważonej infrastruktury transportowej wykorzystującej AI w celu zwiększenia efektywności, ograniczenia zanieczyszczeń i promowania możliwości dostosowania do potrzeb użytkowników;
d) Ekosystem doskonałości #
i. Talenty #
194. #
wzywa Komisję do stworzenia ram umiejętności w zakresie AI dla pojedynczych osób, na podstawie ram kompetencji cyfrowych, aby zapewnić obywatelom, pracownikom i przedsiębiorstwom odpowiednie szkolenia i możliwości uczenia się w zakresie AI oraz usprawnić dzielenie się wiedzą, najlepszymi praktykami oraz umiejętnością korzystania z mediów i danych między organizacjami i przedsiębiorstwami zarówno na szczeblu UE, jak i na szczeblu krajowym; zwraca się do Komisji o szybkie działania w tworzeniu takich ram kompetencji na podstawie istniejących programów kształcenia w zakresie AI; zaleca utworzenie europejskiej przestrzeni danych dotyczących umiejętności w zakresie AI, aby wspierać europejskie szkolenia z zakresu umiejętności na poziomie sektorowym i regionalnym we wszystkich państwach członkowskich; podkreśla, że nabywanie i nauczanie umiejętności cyfrowych i umiejętności w zakresie AI musi być dostępne dla wszystkich, a w szczególności dla kobiet i grup szczególnie wrażliwych; wzywa Komisję i państwa członkowskie do wspierania bezpłatnych kursów internetowych, które poszerzają podstawowe szkolenie w zakresie AI;
195. #
apeluje o inwestowanie w badania naukowe mające na celu lepsze zrozumienie strukturalnych tendencji związanych z AI na rynku pracy, w tym, na jakie umiejętności jest większe zapotrzebowanie lub które są zagrożone niedoborem w przyszłości, co pozwoli na opracowanie programów przekwalifikowania zawodowego;
196. #
zauważa z niepokojem brak ukierunkowanych i systematycznych środków w zakresie szkolenia zawodowego dorosłych; wzywa Komisję i państwa członkowskie do opracowania strategii politycznych obejmujących odpowiednie inwestycje w przekwalifikowanie i podnoszenie kwalifikacji siły roboczej, w tym informowanie obywateli o sposobie działania algorytmów i ich wpływie na życie codzienne; wzywa do zwrócenia szczególnej uwagi na osoby, które straciły pracę lub są zagrożone jej utratą w związku z transformacją cyfrową, z myślą o przygotowaniu ich do pracy z technologiami związanymi z AI i ICT; wzywa Komisję do zachęcania do tworzenia partnerstw na rzecz umiejętności z udziałem wielu zainteresowanych stron i inwestowania w nie w celu testowania najlepszych praktyk; zaleca monitorowanie tworzenia w UE wysokiej jakości miejsc pracy związanych z AI;
197. #
podkreśla, że istniejące luki cyfrowe można zlikwidować jedynie za pomocą ukierunkowanych i włączających środków skierowanych zarówno do kobiet, jak i do osób starszych, i w związku z tym wzywa do znacznych inwestycji w ukierunkowane środki w zakresie podnoszenia kwalifikacji i edukacji w celu wyeliminowania tych luk cyfrowych; wzywa Komisję i państwa członkowskie do wspierania w tym względzie kultury i warunków pracy sprzyjających równouprawnieniu płci;
198. #
wzywa Komisję do promowania równości płci w przedsiębiorstwach zajmujących się działalnością związaną z AI i ICT, w tym poprzez finansowanie projektów prowadzonych przez kobiety w sektorze cyfrowym oraz promowanie minimalnej liczby kobiet wśród naukowców uczestniczących w zaproszeniach do składania wniosków o finansowanie badań związanych z AI i ICT;
199. #
podkreśla potrzebę rozwiązania problemu niedoboru talentów poprzez zapewnienie wzrostu, przyciągania i zatrzymywania największych talentów; wzywa Komisję do realizacji celu, jakim jest zatrudnienie w UE 20 mln specjalistów w dziedzinie ICT; podkreśla, że w celu zatrzymania największych talentów w dziedzinie AI oraz powstrzymania drenażu mózgów UE musi oferować konkurencyjne wynagrodzenia, lepsze warunki pracy, współpracę transgraniczną oraz konkurencyjną infrastrukturę;
200. #
podkreśla wartość dodaną posiadania uproszczonych i usprawnionych ram unijnych mających na celu przyciąganie talentów międzynarodowych w sektorze technologicznym w celu umożliwienia mobilności i przepływu talentów w UE i z zagranicy, poprawy dostępu międzynarodowych talentów do unijnego rynku pracy i przyciągania pracowników i studentów na żądanie; podkreśla, że potrzebne są nowe innowacyjne narzędzia i przepisy, które pomogą dopasować pracodawców do potencjalnych pracowników sektora ICT, rozwiążą problem niedoborów na rynku pracy oraz ułatwią uznawanie międzynarodowych kwalifikacji i umiejętności; zaleca utworzenie unijnej bazy talentów i platformy dopasowywania, która będzie służyć jako punkt kompleksowej obsługi międzynarodowych talentów, chcących ubiegać się o pracę w UE oraz będzie służyć pracodawcom poszukującym potencjalnych pracowników za granicą; wzywa Komisję do rozszerzenia zakresu stosowania niebieskiej karty UE, aby zagwarantować, że Europa pozostanie otwarta na światowe talenty;
201. #
wzywa Komisję do zajęcia się rosnącym zapotrzebowaniem na pracę zdalną w państwach członkowskich, aby umożliwić pracownikom unijnym i międzynarodowym wykonywanie pracy zdalnej w innym państwie członkowskim niż to, w którym mieszkają; zaleca w tym kontekście kompleksowy przegląd przeszkód legislacyjnych i innych utrudniających pracę zdalną oraz uwzględnienie ich w kolejnych wnioskach ustawodawczych;
202. #
podkreśla potrzebę wzmocnienia spójności innowacyjnej między regionami UE i państwami członkowskimi, ponieważ talenty mogą być nierównomiernie rozmieszczone;
203. #
wzywa Komisję i państwa członkowskie do zapewnienia odpowiedniej ochrony praw i dobrobytu pracowników, takich jak niedyskryminacja, prywatność, autonomia i godność ludzka, przy wykorzystywaniu AI i zarządzaniu algorytmicznym, w tym w odniesieniu do praktyk nieuzasadnionego nadzoru; podkreśla, że gdy AI jest wykorzystywana w pracy, pracodawcy muszą zachować przejrzystość co do sposobu jej wykorzystania i wpływu na warunki pracy, oraz podkreśla, że pracownicy powinni być zawsze informowani i konsultowani przed zastosowaniem urządzeń i praktyk opartych na AI; podkreśla, że algorytmy zawsze muszą być nadzorowane przez człowieka, a ich decyzje muszą być rozliczalne, zaskarżalne i – w stosownych przypadkach – odwracalne; uważa, że należy zachęcać do szkolenia twórców algorytmów w zakresie etyki, przejrzystości i kwestii antydyskryminacyjnych;
204. #
wzywa do opracowania europejskiej strategii na rzecz bezpiecznego korzystania z AI przez dzieci, mającej na celu przekazywanie dzieciom informacji o interakcji z AI, aby chronić je przed ryzykiem i potencjalnymi szkodami;
205. #
wzywa państwa członkowskie do włączenia umiejętności i kompetencji cyfrowych jako elementu edukacji podstawowej i uczenia się przez całe życie; wzywa do stworzenia wysokowydajnego systemu edukacji w zakresie AI, który już na wczesnym etapie, poczynając od szkolnictwa podstawowego, promuje umiejętności i kompetencje cyfrowe oraz odporność cyfrową; podkreśla, że opracowanie skutecznych programów nauczania w zakresie edukacji cyfrowej wymaga woli politycznej, wystarczających środków i badań naukowych; wzywa Komisję do promowania wprowadzenia kursów dotyczących umiejętności w zakresie AI i informatyki we wszystkich europejskich szkołach, na uniwersytetach i w instytucjach edukacyjnych; podkreśla, że taki rozwój umiejętności jest potrzebny w kształceniu dorosłych w takim samym stopniu, jak w szkolnictwie podstawowym czy średnim; wzywa Komisję i państwa członkowskie do podjęcia kompleksowej i spójnej inicjatywy politycznej w zakresie umiejętności i edukacji w zakresie AI na szczeblu UE, a także do podjęcia inicjatywy ustawodawczej w sprawie AI w miejscu pracy;
206. #
zwraca uwagę na potrzebę stworzenia multidyscyplinarnych programów nauczania na uniwersytetach, które koncentrowałyby się na umiejętnościach w zakresie technologii cyfrowych i AI, w tym w dziedzinie zdrowia, oraz na interdyscyplinarnych ośrodkach badawczych; uważa, że należy również promować ścieżki dalszej edukacji oferujące specjalizację w zakresie AI (np. na poziomie magisterskim lub doktoranckim, a także w trybie stacjonarnym i zaocznym);
207. #
wzywa państwa członkowskie do nadania priorytetu rozwijaniu innowacyjnych metod i programów nauczania w obszarze programowania i STEM, a zwłaszcza do podniesienia poziomu kształcenia w dziedzinie matematyki i analizy statystycznej w celu zrozumienia prawdopodobnego charakteru algorytmów AI; wzywa Komisję i państwa członkowskie do promowania dyscyplin akademickich STEM w celu zwiększenia liczby studentów w tych dziedzinach; podkreśla, że inne dyscypliny, które współdziałają z dyscyplinami STEM, również będą miały kluczowe znaczenie dla propagowania umiejętności cyfrowych;
208. #
zachęca państwa członkowskie do przyjęcia strategii promującej udział kobiet w studiach i zawodach związanych ze STEM, ICT i AI w celu osiągnięcia równości płci, w tym poprzez określenie celu dotyczącego udziału kobiet naukowców w projektach w zakresie STEM i AI;
209. #
podkreśla, że edukacja cyfrowa powinna również podnosić świadomość na temat aspektów życia codziennego, na które potencjalnie może mieć wpływ uczenie maszynowe, w tym na wyszukiwarki reklamujące treści, targetowanie reklam, algorytmy mediów społecznościowych i deepfake’i; podkreśla, że odporność cyfrowa wymaga dodatkowej edukacji medialnej, aby pomóc w nadaniu kontekstu nowym umiejętnościom cyfrowym i kompetencjom w zakresie sztucznej inteligencji, i w związku z tym wzywa do wspierania i popierania nowych i już istniejących dostępnych kursów umiejętności w zakresie AI dla wszystkich obywateli;
210. #
apeluje o podjęcie działań mających na celu zapewnienie wszystkim placówkom edukacyjnym szerokopasmowego dostępu do internetu oraz silnej infrastruktury cyfrowej do nauki; podkreśla potrzebę zapewnienia europejskim uniwersytetom i ich sieciom odpowiednich zasobów obliczeniowych potrzebnych do trenowania modeli AI, które stają się coraz droższe; podkreśla potrzebę dostarczenia nauczycielom niezbędnych umiejętności i narzędzi w zakresie AI; apeluje o położenie większego nacisku na szkolenia techniczne dla nauczycieli oraz rozwój innowacyjnych narzędzi nauczania i uczenia się;
211. #
domaga się inwestycji w inicjatywy mające na celu naukę kodowania dla młodzieży w celu promowania umiejętności z zakresu AI oraz wysokich kwalifikacji, w tym inwestycji w akademie kodowania, letnie szkoły i praktyki szkolne w dziedzinie AI; jest zdania, że unijne staże „Cyfrowe możliwości” powinny zostać rozszerzone na szkolenia zawodowe;
ii. Badania naukowe #
212. #
wzywa UE do zwiększenia inwestycji w badania nad AI i innymi kluczowymi technologiami, takimi jak robotyka, obliczenia kwantowe, mikroelektronika, internet rzeczy, nanotechnologia i druk 3D; wzywa Komisję do opracowania i prowadzenia europejskiego strategicznego planu badań nad sztuczną inteligencją, uwzględniającego główne problemy interdyscyplinarne, których rozwiązaniem może być po części AI; podkreśla, że inwestycje powinny być ukierunkowane na przypadki użycia, które mogą przyczynić się do zwiększenia liczby trwałych rozwiązań, dobrobytu i włączenia społecznego;
213. #
zachęca wszystkie państwa członkowskie do przeznaczania większej części PKB na badania nad technologiami cyfrowymi; wzywa do ciągłego wzmacniania programu „Horyzont Europa”, a w szczególności partnerstwa w zakresie AI, danych i robotyki oraz Europejskiej Rady ds. Innowacji; apeluje o rozszerzenie programu „Cyfrowa Europa” i uznaje, że przydzielone na ten program finansowanie w wysokości 7,6 mld EUR należy zwiększyć;
214. #
podkreśla potrzebę priorytetowego potraktowania badań naukowych na szczeblu UE w obszarze AI; wzywa Komisję do uproszczenia struktury finansowania badań, w tym wymogów i procesów związanych z wnioskami o dotacje; podkreśla potrzebę poprawy jakości i spójności przeglądów wniosków oraz zwiększenia przewidywalności instrumentów finansowania i ich terminowości, aby wspierać planowanie w perspektywie długoterminowej, z wykorzystaniem europejskiego planu działania dotyczącego badań naukowych w obszarze AI; wzywa Komisję do finansowania większej liczby wniosków w obszarze AI poprzez połączenie różnych instrumentów, takich jak Europejska Rada ds. Badań Naukowych, działania „Maria Skłodowska-Curie”, Europejska Rada ds. Innowacji i Europejski Instytut Innowacji i Technologii;
215. #
wzywa Komisję i państwa członkowskie do priorytetowego traktowania finansowania badań nad AI, które koncentrują się na zrównoważonej i społecznie odpowiedzialnej AI, przyczyniającej się do znalezienia rozwiązań chroniących i promujących prawa podstawowe, oraz do unikania finansowania programów, które stanowią niedopuszczalne zagrożenie dla tych praw, w tym finansowania systemów masowej inwigilacji, kontroli społecznej i innych systemów, które mogą prowadzić do negatywnych skutków społecznych, a także technologii przyczyniających się do szkód w środowisku;
216. #
zachęca do tworzenia większej liczby stanowisk nauczania w dziedzinie AI na europejskich uniwersytetach, a także zapewniania adekwatnych wynagrodzeń w obszarze badań naukowych dotyczących AI i większego finansowania publicznego w celu odpowiedniego szkolenia i utrzymywania badaczy i przedsiębiorców obecnego i przyszłego pokolenia oraz w celu zapobiegania drenażowi mózgów do lokalizacji poza UE; podkreśla potrzebę ograniczenia przeszkód biurokratycznych utrudniających naukowcom uniwersyteckim łatwy dostęp do funduszy i wzywa Komisję do udostępnienia narzędzi zwiększających cyfrową łączność między uniwersytetami w państwach członkowskich i między nimi; wzywa do rozwijania przekrojowych sieci zajmujących się AI na europejskich uniwersytetach, w instytucjach badawczych i w sektorze prywatnym, a także specjalnych multidyscyplinarnych ośrodków badawczych zajmujących się AI;
217. #
zaleca, by uniwersytety zwiększyły finansowanie projektów w zakresie badań stosowanych, w których uwzględnia się aspekty AI;
218. #
wzywa Komisję do usprawnienia transferu wiedzy między badaniami nad AI a społeczeństwem poprzez tworzenie sieci biznesowych i punktów kontaktowych z prawnikami i konsultantami biznesowymi na uniwersytetach, a także poprzez tworzenie paneli obywatelskich, platform dla środowisk nauki i dla społeczeństwa oraz zaangażowanie ogółu społeczeństwa w formułowanie programów badawczych w dziedzinie AI; podkreśla znaczenie płynnego przejścia od środowiska akademickiego do przemysłu oraz wartość dodaną bliskości między nimi, sprzyjającej udanym i dynamicznym ekosystemom i ośrodkom przemysłowym zajmującym się AI;
219. #
podkreśla potrzebę przyspieszenia transferu wiedzy w UE od badań i nauki po zastosowania AI w przemyśle i sektorze publicznym; z zadowoleniem przyjmuje utworzenie specjalnego partnerstwa publiczno-prywatnego na rzecz AI; wzywa Komisję do utworzenia europejskich ośrodków przetwarzania danych w obszarze AI, opracowanych wspólnie z branżą i społeczeństwem obywatelskim; podkreśla znaczenie miejsc testowania sztucznej inteligencji; odnosi się w szczególności do Wspólnego Przedsięwzięcia w dziedzinie Europejskich Obliczeń Wielkiej Skali, Wspólnego Przedsięwzięcia na rzecz Kluczowych Technologii Cyfrowych oraz Wspólnego Przedsięwzięcia na rzecz Inteligentnych Sieci i Usług;
220. #
apeluje o ustanowienie sztandarowego projektu dotyczącego AI wspieranego przez program „Horyzont Europa”, opierającego się na istniejących i przyszłych sieciach regionalnych centrów doskonałości w obszarze AI, w celu budowy sojuszu silnych europejskich organizacji badawczych, które dzielą wspólne plany działania, by wspierać doskonałość w dziedzinie badań podstawowych i stosowanych, dostosowywać krajowe wysiłki na rzecz AI, wspierać innowacje i inwestycje, przyciągać i utrzymywać talenty w dziedzinie AI w Europie i tworzyć synergie i korzyści skali; uważa, że koncepcja sztandarowych projektów ma potencjał przyciągania najlepszych i najzdolniejszych umysłów z zagranicy, a także przyciągnięcia do Europy znacznych inwestycji prywatnych;
221. #
dodaje, że sztandarowe projekty dotyczące AI, realizowane we współpracy z innymi instytucjami badawczymi i przemysłem, powinny być odpowiednio finansowane; podkreśla korzyści płynące z dobrze kontrolowanych piaskownic regulacyjnych służących do testowania produktów, usług i podejść w zakresie AI w kontrolowanym środowisku rzeczywistym przed wprowadzeniem ich na rynek;
222. #
zwraca uwagę, że wyznaczenie europejskich ośrodków innowacji cyfrowej w ramach programu „Cyfrowa Europa” jest kolejnym ważnym krokiem w tworzeniu ekosystemu doskonałości AI opartego na klastrach uniwersytecko-przemysłowych; krytykuje jednak fakt, że kryteria wyznaczania ośrodków innowacji cyfrowej pozostają niejasne, w związku z czym ośrodki te w całej Europie różnią się pod względem możliwości i rozwoju, a wzajemne powiązania z innymi ośrodkami cyfrowymi wyznaczonymi przez Europejski Instytut Innowacji i Technologii oraz w ramach programu „Horyzont Europa” pozostają niejasne; sugeruje w związku z tym, że potrzebna jest większa koordynacja, a także ustanowienie ogólnego klastra współpracy obejmującego zdecentralizowane ośrodki AI oparte na ogólnounijnych ramach dotyczących specjalistycznej wiedzy prawnej, danych, finansowania i zachęt; z zadowoleniem przyjmuje inicjatywy Komisji na rzecz utworzenia sieci przedsiębiorstw typu start-up w całej UE, a także poza nią, takich jak Start-up Europe i Start-up Europe Mediterranean, w celu wspierania wymiany pomysłów, możliwości biznesowych i tworzenia sieci kontaktów.;
223. #
proponuje zwiększenie skali i dostosowanie istniejących inicjatyw, takich jak Europejskie Laboratorium Uczenia się i Systemów Inteligentnych [European Lab for Learning & Intelligent Systems] oraz Konfederacja Laboratoriów Badań nad Sztuczną Inteligencją w Europie [Confederation of Laboratories for Artificial Intelligence Research in Europe], a także projektów przewodnich, takich jak HumanE AI Network i AI4EU, w celu promowania ambitnych, opartych na współpracy i ogólnounijnych celów i projektów badawczo-rozwojowych;
e) Ekosystem zaufania #
i. Społeczeństwo i AI #
224. #
proponuje, aby w ramach sugerowanego szkolenia na temat AI państwa członkowskie i UE opracowały kampanie zwiększania świadomości, obejmujące dyskusje publiczne na szczeblu lokalnym, jako dodatkowy środek w celu docierania do obywateli, informowania ich i wzmacniania ich pozycji, aby lepiej zrozumieć możliwości, zagrożenia, wpływ społeczny, prawny i etyczny AI, by dalej przyczyniać się do wiarygodności i demokratyzacji AI; wyraża przekonanie, że działania te, wraz z utworzeniem jasnych i solidnych ram prawnych dotyczących AI ukierunkowanej na człowieka i wiarygodnej, przyczyniłyby się do zmniejszenia obaw obywateli, które mogą być związane z powszechnym stosowaniem AI w Europie;
225. #
wzywa UE do dopilnowania, by rozwój, wdrażanie i wykorzystywanie AI odbywało się z pełnym poszanowaniem zasad demokracji, praw podstawowych i przestrzeganiem prawa w sposób, który umożliwia przeciwdziałanie mechanizmom nadzoru i nie zakłóca w niewłaściwy sposób wyborów ani nie przyczynia się do rozpowszechniania dezinformacji;
226. #
podkreśla, że rządy i przedsiębiorstwa powinny wdrażać i pozyskiwać wyłącznie godne zaufania systemy AI, które są zaprojektowane, w stosownych przypadkach, z myślą o przestrzeganiu praw pracowniczych oraz promowaniu wysokiej jakości edukacji i umiejętności informatycznych, i które nie zwiększają różnic w traktowaniu kobiet i mężczyzn ani nie pogłębiają dyskryminacji poprzez uniemożliwianie równych szans dla wszystkich;
227. #
popiera korekty praw ochrony konsumentów jako kolejny sposób na budowanie zaufania do AI, na przykład poprzez udzielanie konsumentom prawa do wiedzy, czy wchodzą w interakcję z agentem AI, co pozwoli im domagać się przeglądu decyzji AI przez człowieka, oraz poprzez zapewnienie im możliwości przeciwdziałania komercyjnemu nadzorowi i personalizacji cen;
228. #
podkreśla, że wprowadzenie niektórych technologii AI w miejscu pracy, takich jak te, które wykorzystują dane pracowników, powinno odbywać się w porozumieniu z przedstawicielami pracowników i partnerami społecznymi; zwraca uwagę, że pracownicy i ich przedstawiciele powinni mieć możliwość zażądania od pracodawców informacji na temat tego, jakie dane są gromadzone, gdzie są one przechowywane, jak są przetwarzane i jakie zabezpieczenia są stosowane, by je chronić;
229. #
wzywa UE do zadbania o to, by systemy AI odzwierciedlały jej różnorodność kulturową i wielojęzyczność w celu zapobiegania uprzedzeniom i dyskryminacji; podkreśla, że w celu poradzenia sobie z uprzedzeniami w AI należy promować różnorodność w zespołach opracowujących, wdrażających i oceniających zagrożenia poszczególnych zastosowań AI; podkreśla potrzebę wykorzystywania danych segregowanych według kryterium płci do oceny algorytmów AI oraz włączenia analizy pod kątem płci do wszystkich ocen ryzyka związanego z AI;
230. #
podkreśla znaczenie ciągłych badań i monitorowania wpływu AI na różne aspekty życia społecznego, zarówno na szczeblu krajowym, jak i unijnym; sugeruje, by w działania te zaangażować Eurostat i inne agencje UE;
231. #
podkreśla, że na podstawie wyników systemu monitorowania można rozważyć utworzenie europejskiego funduszu przejściowego, który pomógłby np. w zarządzaniu utratą miejsc pracy w regionach lub sektorach szczególnie narażonych;
ii. Administracja elektroniczna #
232. #
wzywa państwa członkowskie do realizacji deklaracji z Tallina w sprawie administracji elektronicznej, nadania obywatelom centralnej pozycji w obszarze świadczenia usług oraz do wprowadzenia mechanizmów zapewniających wszystkim obywatelom na wszystkich szczeblach administracji publicznej ponadgraniczne, interoperacyjne, zindywidualizowane, przyjazne dla użytkownika i kompleksowe cyfrowe usługi publiczne oparte na AI; jest zdania, że celem powinno być wprowadzenie w ciągu najbliższych pięciu lat świadczenia obywatelom cyfrowych usług administracji elektronicznej opartych na AI, przy jednoczesnym zachowaniu interakcji z ludźmi; przypomina, że fundusze Instrumentu na rzecz Odbudowy i Zwiększania Odporności oraz krajowe plany odbudowy i zwiększania odporności odegrają w tym względzie kluczową rolę; wzywa organy publiczne do wspierania i rozwijania AI w sektorze publicznym; z zadowoleniem przyjmuje przegląd rozporządzenia w sprawie eIDAS(41) i jego rolę w stymulowaniu świadczenia cyfrowych usług publicznych; podkreśla, że nikt nie powinien pozostawać w tyle, a alternatywy offline powinny być zawsze dostępne;
233. #
apeluje do Komisji o wznowienie planu działania na rzecz administracji elektronicznej oraz o stworzenie synergii z programem „Cyfrowa Europa” w celu wspierania wdrożenia AI we wszystkich administracjach publicznych zgodnie z europejską strategią oprogramowania open source;
234. #
podkreśla, że administracja elektroniczna odgrywa istotną rolę w rozwoju gospodarki opartej o dane i w innowacjach cyfrowych na jednolitym rynku cyfrowym; zwraca uwagę, że współpraca i dzielenie się dobrymi praktykami wśród administracji publicznych oraz ponad granicami stanowią istotne elementy wdrażania administracji elektronicznej w całej UE; wzywa do ujednolicenia i usprawnienia procedur administracji publicznej w celu zwiększenia skuteczności wymiany między państwami członkowskimi UE i wszystkimi szczeblami administracji;
235. #
zwraca uwagę, że do opracowania wysokiej jakości usług online potrzebni są doświadczeni eksperci; podkreśla potrzebę zwiększenia liczby rządowych strategii rekrutacji i szkoleń dla osób mających umiejętności cyfrowe i wiedzę o AI;
236. #
apeluje o szybsze wdrożenie jednolitego portalu cyfrowego i promowanie rozwoju interoperacyjnych platform oferujących usługi transgraniczne w UE z zachowaniem wspólnych norm bezpieczeństwa dla wszystkich usług we wszystkich państwach członkowskich; podkreśla, że należy rozważyć ewentualne rozszerzenie, poza ograniczony zestaw, usług uwzględnionych obecnie w rozporządzeniu (UE) 2018/1724(42) ustanawiającym jednolity portal cyfrowy;
237. #
podkreśla, że platformy konsultacji publicznych instytucji UE i państw członkowskich zwiększają zaangażowanie i dostęp do informacji cyfrowych; zaleca inwestycje w poprawę użyteczności i dostępności, takie jak podawanie streszczeń i informacji w wielu językach oraz specjalne, ukierunkowane, marketingowe działania informacyjne na rzecz cyfrowych platform zaangażowania publicznego;
238. #
zaleca zwiększenie interaktywnego i osobistego dialogu z obywatelami Unii za pomocą internetowych konsultacji z obywatelami, formatów dialogu z zainteresowanymi stronami lub funkcji cyfrowych do komentowania prawodawstwa i inicjatyw UE;
iii. e-zdrowie #
239. #
domaga się zaprojektowania ukierunkowanego na człowieka i opartego na dowodach podejścia do AI w dziedzinie zdrowia, skupiającego się na spersonalizowanej, opłacalnej, skoncentrowanej na pacjencie i wysokiej jakości opiece zdrowotnej, rozwijanej w ścisłej współpracy z pracownikami służby zdrowia i pacjentami, przy zachowaniu ludzkiego nadzoru i podejmowania decyzji; wzywa do nadania priorytetu finansowaniu, ustanawianiu celów strategicznych, promowaniu współpracy oraz przyjmowaniu zastosowań AI w opiece zdrowotnej jako sektorze krytycznym, w którym możliwości oferowane przez AI mogą przynieść ogromne korzyści dla zdrowia i dobrostanu obywateli, jeśli odpowiednio zarządza się ryzykiem nieodłącznym;
240. #
podkreśla, że zastosowania AI w opiece zdrowotnej należy promować jako narzędzie pomagające pracownikom opieki zdrowotnej i odciążające ich, pozwalające im skoncentrować się na zadaniach klinicznych, a nie zastępujące pracowników opieki zdrowotnej lub działające jako niezależny podmiot w systemach opieki zdrowotnej; podkreśla potrzebę zapewnienia poziomu jakości, bezpieczeństwa i ochrony na równi z procesem zatwierdzania leków, szczepionek i wyrobów medycznych; apeluje o przypominającą badania kliniczne metodę testowania adekwatności i monitorowania wdrażania AI w kontekstach klinicznych; uważa, że korzystna byłaby ocena, które usługi opieki zdrowotnej można zautomatyzować w sposób etyczny i odpowiedzialny;
241. #
uważa, że zasadę równego dostępu do opieki zdrowotnej należy rozszerzyć na zastosowania AI związane ze zdrowiem, w tym systemy służące wykrywaniu chorób, zarządzaniu chorobami przewlekłymi, zapewnianiu świadczeń zdrowotnych oraz odkrywaniu leków; podkreśla konieczność wdrożenia właściwych środków w celu przeciwdziałania zagrożeniom dla zdrowia związanym z przepaścią cyfrową, stronniczością algorytmiczną, dyskryminacją oraz marginalizacją osób wymagających szczególnego traktowania lub należących do mniejszości kulturowych, mających ograniczony dostęp do opieki zdrowotnej;
242. #
przypomina stanowisko Parlamentu, zgodnie z którym towarzystwa ubezpieczeniowe ani inni usługodawcy uprawnieni do dostępu do informacji przechowywanych w aplikacjach związanym z e-zdrowiem nie powinni mieć możliwości wykorzystania tych danych do celów dyskryminacji przy ustalaniu cen;
243. #
jest przekonany, że obecne projekty i inicjatywy UE, takie jak Program UE dla zdrowia, europejska przestrzeń danych dotyczących zdrowia, europejska platforma na rzecz rejestracji chorób rzadkich, to kroki w odpowiednim kierunku, ponieważ pozwalają państwom członkowskim łączyć zasoby, zwiększać korzystną współpracę między systemami opieki zdrowotnej oraz umożliwiają bezpieczną wymianę wysokiej jakości danych do badań i innowacji z poszanowaniem prywatności;
244. #
apeluje o odpowiednie umocowanie prawne i umiejscowienia ram „AI w dziedzinie zdrowia” na szczeblu unijnym; podkreśla, że wiele poziomów ryzyka ewoluuje z czasem dzięki bardziej zaawansowanym technologiom AI;
245. #
podkreśla potrzebę większej liczby wytycznych dotyczących przetwarzania danych na temat zdrowia na podstawie RODO w celu wykorzystania pełnego potencjału AI z korzyścią dla jednostek, przy jednoczesnym poszanowaniu praw podstawowych; wzywa Komisję do szybszej i lepszej harmonizacji norm regulujących przetwarzanie, w tym udostępnianie, anonimizację i interoperacyjność danych na temat zdrowia w państwach członkowskich;
246. #
wzywa Komisję do promowania integracji zasad etycznych na każdym etapie rozwoju, projektowania i wykorzystywania zastosowań AI; podkreśla, że należy promować dalsze badania nad metodami i uprzedzeniami zakorzenionymi w trenowanym systemie AI, by uniknąć nieetycznych bądź dyskryminujących wniosków przy zastosowaniu systemu do danych dotyczących zdrowia ludzi; zaleca stworzenie unijnego kodeksu postępowania w zakresie przetwarzania danych dotyczących zdrowia w pełnej zgodności z RODO;
247. #
wzywa Komisję do rozważenia inicjatywy w zakresie neuropraw, której celem jest ochrona ludzkiego mózgu przed ingerencją, manipulacją i kontrolą ze strony neurotechnologii napędzanej przez AI; zachęca Komisję Europejską, by pełniła rolę przewodnią w programie działań na rzecz neuropraw na szczeblu ONZ, by włączyć neuroprawa do Powszechnej deklaracji praw człowieka, a konkretnie prawo do tożsamości, wolnej woli, prywatności psychicznej, równego dostępu do postępów w dziedzinie ulepszania mózgu oraz ochrony przez uprzedzeniami algorytmicznymi;
248. #
wzywa Komisję do rozważenia ram prawnych dla internetowych konsultacji medycznych;
249. #
podkreśla potrzebę wprowadzenia środków promujących równy dostęp do opieki zdrowotnej i zwiększających wykorzystanie rozwiązań z zakresu AI przez podmioty świadczące usługi opieki zdrowotnej;
250. #
wzywa Komisję do wsparcia ustanowienia mechanizmu współpracy w kontekście europejskiej przestrzeni danych na temat zdrowia i jej funkcjonowania, w celu promowania wymiany danych na temat zdrowia i wspierania rozwoju elektronicznych kart zdrowia zgodnie z obowiązującymi przepisami ustawowymi i wykonawczymi; wzywa do poprawy jakości danych dostępnych dla każdego obywatela UE poprzez umożliwienie prawidłowego działania narzędzi cyfrowych (np. na podstawie samouczących się algorytmów lub analizy dużych zbiorów danych); zaleca, aby dane przechowywane zgodnie z RODO były dostępne do dalszych badań, a także do opracowywania nowych leków i zindywidualizowanych terapii;
251. #
podkreśla, że do programów kształcenia pracowników opieki zdrowotnej należy włączyć umiejętności cyfrowe i związane z AI, a także wiedzę na temat unijnego prawodawstwa dotyczącego ochrony danych i obsługi danych wrażliwych, w tym promowanie anonimizacji danych;
252. #
apeluje o wytyczne dotyczące możliwości stosowania ram odpowiedzialności i zharmonizowanych systemów zatwierdzania aplikacji medycznych opartych na AI oraz leków opracowanych lub testowanych za pomocą AI i uczenia maszynowego; podkreśla, że we wszelkich przyszłych reformach regulacyjnych należy uwzględnić szkody wynikające z niewystarczającej alokacji zasobów lub braku świadczenia opieki, wprowadzając systemy rekomendacji oparte na sztucznej inteligencji w sektorze opieki zdrowotnej; podkreśla, że potrzebne są odpowiednie najlepsze praktyki, standardy i kryteria certyfikacji i zatwierdzania aplikacji medycznych zgodnie z ryzykiem odpowiedzialności;
253. #
apeluje do Komisji, by zapewniła i wykorzystała ukierunkowane na człowieka modele predykcyjne dotyczące pandemii, w których różnorodne zbiory danych łączą się w czasie rzeczywistym, by wpływać na podejmowanie decyzji;
f) Strategia przemysłowa #
i. Planowanie strategiczne i inwestycje #
254. #
wyraża przekonanie, że UE powinna umieścić AI i gospodarkę opartą na danych w sercu ambitnej cyfrowej strategii przemysłowej w celu wzmacniania pozycji innowacyjnych przedsiębiorstw i przedsiębiorców, tak by mogli konkurować o najlepsze innowacje w zakresie modeli technologicznych i biznesowych w Europie i na świecie, oraz wzmocnić otwartą strategiczną autonomię UE przy jednoczesnym ustanowieniu solidnych norm prawnych, etycznych, technologicznych i bezpieczeństwa dla wszystkich systemów i komponentów AI, które mają być wykorzystywane na rynku wewnętrznym;
255. #
zachęca Komisję do stosowania analizy na dużych zbiorach danych z użyciem AI, by wesprzeć wykonywanie testów wytrzymałościowych podczas oceny odporności łańcuchów wartości oraz mapowanie zależności;
256. #
wzywa Komisję do przeprowadzenia kompleksowej analizy mocnych i słabych stron w celu określenia słabych punktów UE, zidentyfikowania obszarów krytycznych i zależności wysokiego ryzyka, ustalenia realistycznych oczekiwań technicznych i gospodarczych w odniesieniu do AI oraz oceny skutków we wszystkich sektorach przemysłu europejskiego; podkreśla, że w tym celu Komisja powinna współpracować z odpowiednimi zainteresowanymi stronami;
257. #
proponuje, aby na podstawie tej analizy UE sformułowała i przyjęła długoterminową strategię branży AI z jasną wizją na najbliższe 10 lat jako rozszerzenie cyfrowego kompasu; wyjaśnia, że strategia ta powinna być uzupełniona systemem monitorowania z kluczowymi wskaźnikami wydajności i corocznymi aktualizacjami; podkreśla jednak potrzebę konsolidacji i usprawnienia ogromnej liczby indywidualnych inicjatyw, które zostały podjęte przez Komisję w celu wsparcia unijnego sektora AI, przed włączeniem ich do tej nowej strategii na rzecz branży AI;
258. #
wzywa Komisję do rozważenia, w jaki sposób ogólną strategię przemysłową można uzupełnić ukierunkowanymi inwestycjami publicznymi; zwraca jednak uwagę, że nadmierne, nieukierunkowane programy inwestycyjne w zakresie złożonych technologii mogą w niektórych przypadkach grozić zakłóceniem skutecznej alokacji kapitału i mogą prowadzić do inwestycji „osieroconych”; podkreśla w tym kontekście, że wzmocnienie pozycji przedsiębiorstw, przedsiębiorców i naukowców w opracowywaniu i wprowadzaniu na rynek rozwiązań technologicznych w zakresie AI opartych o prywatną przedsiębiorczość stanowi kluczowy element strategii przemysłowej UE, w tym poprzez egzekwowanie równych warunków działania oraz ukończenie budowy jednolitego rynku cyfrowego i unii rynków kapitałowych; proponuje ułatwienie dostępu do finansowania, zwłaszcza do instrumentów finansowania ryzyka, w szczególności w przypadku finansowania na wczesnym etapie rozwoju; jest zdania, że należy przeprowadzić przegląd, a w stosownych przypadkach znacznie zwiększyć proporcję środków przeznaczonych na AI w programach InvestEU i „Cyfrowa Europa”;
259. #
podkreśla potrzebę szybkiego wdrożenia niedawno przyjętych unijnych ram kontroli bezpośrednich inwestycji zagranicznych(43) oraz niedawno zmienionego rozporządzenia w sprawie unijnego systemu kontroli wywozu produktów podwójnego zastosowania(44); stwierdza, że AI, a także robotykę i inną infrastrukturę cyfrową należy uznać za sektor o kluczowym znaczeniu; zauważa, że ochrona praw własności intelektualnej i wypływ krytycznych technologii powinny być ściślej egzekwowane;
260. #
podkreśla, że dla Europy kluczowe znaczenie ma wyposażenie się w odpowiednią infrastrukturę cyfrową; z zadowoleniem przyjmuje takie inicjatywy, jak europejska inicjatywa dotycząca procesorów, nowo zaproponowany akt w sprawie chipów oraz Wspólne Przedsięwzięcie w dziedzinie Europejskich Obliczeń Wielkiej Skali;
ii. MŚP i przedsiębiorstwa typu start-up #
261. #
proponuje, by na szczeblu unijnym i rządowym zapewnić wsparcie dla przedsiębiorstw typu start-up zajmujących się AI przez dostęp do prywatnego kapitału i wykwalifikowanych pracowników, możliwość pozyskiwania wysokiej jakości zbiorów danych do trenowania algorytmów oraz możliwość zwiększania skali działalności ponad granicami państw członkowskich; podkreśla ponadto, że bardzo skutecznym narzędziem polityki publicznej wspierającym gospodarkę opartą na przedsiębiorstwach typu start-up jest skuteczne egzekwowanie prawa konkurencji w celu zapobiegania nadużywaniu dominującej pozycji rynkowej i przeciwdziałania barierom utrudniającym wejście na rynek; podkreśla w tym kontekście, że UE powinna zwiększyć wysiłki na rzecz zaoferowania MŚP i przedsiębiorstwom typu start-up ścieżek i usług rozwoju; uważa, że mogłoby to również obejmować wprowadzenie systemu „buddy”, który łączyłby doświadczone przedsiębiorstwa ukierunkowane na AI z mniejszymi przedsiębiorstwami chcącymi wdrożyć tę technologię; podkreśla, że niemożność zapewnienia sobie dużych zespołów prawników często stanowi dla przedsiębiorstw typu start-up i przedsiębiorców barierę we wchodzeniu do skomplikowanego otoczenia regulacyjnego; podkreśla potrzebę zapewnienia MŚP dostępu do konkretnego wsparcia prawnego i technicznego; podkreśla również potrzebę wspierania partnerstw, w ramach których mogłyby współpracować przedsiębiorstwa oparte na AI i przedsiębiorstwa wchodzące na rynek; wzywa Komisję i państwa członkowskie do zapewnienia lepszego doradztwa i bardziej konkretnego wsparcia za pośrednictwem sieci, ośrodków cyfrowych, instruktorów AI, mentoringu biznesowego, wizyt w terenie i poradni prawnych; podkreśla znaczenie programów wymiany międzyludzkiej, takich jak „Erasmus” dla młodych przedsiębiorców, oraz zaznacza, że należy je dalej rozwijać i zachęcać do ich realizacji;
262. #
proponuje zmniejszenie obciążeń administracyjnych dla MŚP i przedsiębiorstw typu start-up w zakresie AI, na przykład poprzez uproszczenie obowiązków sprawozdawczych, informacyjnych lub dokumentacyjnych, oraz poprzez zapewnienie wytycznych dotyczących wspólnych norm prawa cywilnego w zakresie procedur, które należy przyjąć na szczeblu krajowym; wzywa do szybkiego wdrożenia jednolitego portalu cyfrowego w celu utworzenia jednego portalu internetowego UE w różnych językach, zawierającego wszystkie procedury i formalności niezbędne do prowadzenia działalności w innym państwie UE; podkreśla, że wszystkie pojedyncze punkty kontaktowe utworzone na szczeblu krajowym powinny być łatwo dostępne za pośrednictwem jednolitego portalu cyfrowego oraz powinny dostarczać informacji i oferować usługi administracyjne w państwach członkowskich, w tym w odniesieniu do przepisów dotyczących VAT i informacji na temat wymogów dotyczących świadczenia usług, z wykorzystaniem dostępnej terminologii i przy pełnej dostępności, a przeszkolony personel działu pomocy technicznej powinien zapewniać skuteczną i przyjazną dla użytkownika pomoc;
263. #
zauważa, że potencjalne sposoby, w jakie państwa członkowskie UE mogą wspierać MŚP i przedsiębiorstwa typu start-up, obejmują: ulgi podatkowe na prowadzenie dogłębnych badań naukowych, lepszy dostęp do zdolności obliczeniowych i wysokiej jakości zbiorów danych oraz wsparcie zwiadu technologicznego i kształcenia, szkolenia i przekwalifikowania pracowników w obszarze AI;
264. #
podkreśla, że MŚP i przedsiębiorstwa typu start-up działające w obszarze AI potrzebują lepszego dostępu do zamówień publicznych; wzywa Komisję do ponownego opracowania procedur składania wniosków w przetargach publicznych i finansowania programów UE, aby umożliwić przedsiębiorstwom typu start-up i MŚP uzyskanie równych szans na otrzymanie projektów w zakresie zamówień publicznych oraz dotacji na badania i rozwój; przypomina w tym kontekście o udanych programach GovTech, które wspierały zaangażowanie małych przedsiębiorstw w cyfrowe zamówienia publiczne; podkreśla, że należy również promować programy opcji na akcje dla przedsiębiorstw typu start-up działających w obszarze AI w całej Europie;
iii. Arena międzynarodowa #
265. #
wskazuje, że UE powinna ukształtować silny międzynarodowy sojusz technologiczny oparty na podstawowych wartościach i świecić w nim przykładem, współpracując z partnerami o podobnych poglądach, aby ustanowić wspólne standardy regulacyjne, skorzystać z najlepszych praktyk w dziedzinie AI, praw prywatności, przepływów danych lub reguł konkurencji oraz wyeliminować strategiczne luki przez wzajemne korzystanie ze swoich aktywów i łączenie zasobów w obszarach, w których przynosi to obopólne korzyści; podkreśla, że UE powinna również aktywnie wspierać wzmocnioną współpracę międzynarodową w zakresie etycznej, godnej zaufania i ukierunkowanej na człowieka AI na odpowiednich forach wielostronnych i dwustronnych, np. w ramach systemu ONZ, OECD, Rady Europy, Światowej Organizacji Handlu, Światowego Forum Gospodarczego i G-20; ze szczególnym zadowoleniem przyjmuje ustanowienie Rady UE–USA ds. Handlu i Technologii, której jednym z priorytetów jest współpraca w zakresie norm dotyczących AI, i uważa, że ze względu na swój strategiczny potencjał Rada ta powinna mieć również wymiar międzyparlamentarny, polegający na udziale Parlamentu Europejskiego i Kongresu USA;
266. #
proponuje utworzenie specjalnej transatlantyckiej grupy roboczej ds. AI, w skład której weszliby przedstawiciele rządów, organizacji normalizacyjnych, sektora prywatnego i społeczeństwa obywatelskiego, by wypracować wspólne standardy i wytyczne etyczne dotyczące AI; proponuje utworzenie długoterminowej platformy wymiany w zakresie AI i innych ważnych kwestii cyfrowych i handlowych na podstawie obecnej tymczasowej umowy o handlu i współpracy, wraz z innymi partnerami o podobnych poglądach;
267. #
podkreśla, że UE powinna promować odpowiedzialne społecznie i etyczne wykorzystanie AI oraz współpracować z międzynarodowymi organami normalizacyjnymi w celu dalszej poprawy norm etyki, bezpieczeństwa, niezawodności, interoperacyjności i ochrony; z zadowoleniem przyjmuje ostatnie inicjatywy normalizacyjne podjęte przez takie podmioty, jak Wspólny Komitet Techniczny Międzynarodowej Organizacji Normalizacyjnej i Międzynarodowa Komisja Elektrotechniczna, mające na celu globalną harmonizację rozbieżnych kodeksów AI; podkreśla ponadto, że Europa powinna promować i rozwijać normy, w tym w dziedzinie inteligentnej produkcji, internetu rzeczy, robotyki i analizy danych; proponuje zapewnienie lepszego wsparcia dla środowisk akademickich, społeczeństwa obywatelskiego i MŚP w zakresie uczestnictwa w forach normalizacyjnych;
268. #
popiera inicjatywę Światowej Organizacji Handlu dotyczącą handlu elektronicznego, mającą na celu opracowanie integracyjnej, wysokiej jakości, znaczącej z handlowego punktu widzenia, opartej na dowodach i ukierunkowanej polityki, aby lepiej radzić sobie z barierami w handlu cyfrowym; podkreśla, że porozumienie powinno również odzwierciedlać zasady dobrego sprawowania władzy, zapewniać rządom możliwość przeciwdziałania protekcjonizmowi cyfrowemu, a jednocześnie chronić i promować zaufanie konsumentów i tworzyć realną wartość dla gospodarki światowej;
269. #
sugeruje, aby Komisja nadal zajmowała się nieuzasadnionymi barierami w handlu, w szczególności barierami pozataryfowymi lub ograniczeniami w dostępie do rynku istniejącymi w krajach trzecich dla europejskich przedsiębiorstw zajmujących się AI; podkreśla, że do kształtowania międzynarodowej debaty na temat AI oraz do promowania europejskich zasad etycznych dotyczących AI należy również aktywnie wykorzystywać politykę handlową, politykę sąsiedztwa i politykę rozwoju;
g) Bezpieczeństwo #
i. AI a ściganie przestępstw #
270. #
podkreśla znaczenie możliwości wykrywania działalności przestępczej przez organy ścigania oraz przeciwdziałania jej przy wsparciu technologii AI;
271. #
podkreśla, że niewłaściwe wykorzystanie AI w egzekwowaniu prawa może wyrządzić szkody, w tym skutkować automatyczną dyskryminacją i bezprawnym traktowaniem obywateli, przy jednoczesnym zapewnieniu niewielu środków odwoławczych; wzywa państwa członkowskie do wprowadzenia znaczących wymogów dotyczących nadzoru ludzkiego i zagwarantowania środków odwoławczych osobom, których dotyczą decyzje podejmowane przez AI;
272. #
sugeruje, że UE powinna brać udział w podejściach opartych na prawie miękkim ustanowionych przez Międzyregionalny Instytut Narodów Zjednoczonych ds. Badań nad Przestępczością i Wymiarem Sprawiedliwości, który opracował operacyjne zestawy narzędzi dotyczące AI i zainicjował partnerstwo z Interpolem, służąc jako wyjątkowe forum dialogu i współpracy w dziedzinie AI między organami ścigania, przemysłem, środowiskami akademickimi i społeczeństwem obywatelskim, w pełnej zgodności z unijną ochroną danych i dorobkiem prawnym w dziedzinie prywatności;
273. #
odnotowuje rolę Europolu w opracowywaniu, szkoleniu i zatwierdzaniu narzędzi AI do zwalczania przestępczości zorganizowanej, terroryzmu i cyberprzestępczości we współpracy z Europejskim Inspektorem Ochrony Danych i z pełnym poszanowaniem podstawowych wartości UE, w szczególności niedyskryminacji i domniemania niewinności;
274. #
wzywa Komisję do wzmocnienia zasobów finansowych i ludzkich europejskiego centrum innowacji na rzecz bezpieczeństwa wewnętrznego; z zadowoleniem przyjmuje wysiłki Eurojustu, Agencji Praw Podstawowych UE i Europolu na rzecz opracowania zestawu narzędzi obejmującego uniwersalne zasady rozliczalności w zakresie wykorzystywania AI przez pracowników wymiaru sprawiedliwości i bezpieczeństwa wewnętrznego (ramy AP4AI); wzywa Komisję do zapewnienia specjalnego wsparcia finansowego tej inicjatywie w celu promowania unijnych standardów i wartości w zakresie rozliczalności w dziedzinie AI;
ii. Cyberbezpieczeństwo #
275. #
zwraca się do państw członkowskich o zacieśnienie współpracy w dziedzinie cyberbezpieczeństwa na szczeblu europejskim, aby umożliwić UE i państwom członkowskim lepsze łączenie zasobów, wydajniejsze koordynowanie i usprawnianie krajowej polityki cyberbezpieczeństwa, dalsze wzmacnianie budowania zdolności i zwiększania świadomości w dziedzinie cyberbezpieczeństwa oraz szybkie zapewnianie wiedzy na temat cyberbezpieczeństwa i pomocy technicznej MŚP, a także innym, bardziej tradycyjnym sektorom;
276. #
zachęca UE do objęcia przewodnictwa w opracowywaniu silnych standardów kryptograficznych i innych standardów bezpieczeństwa, które umożliwiają zaufanie do systemów AI i ich interoperacyjność; podkreśla, że w celu osiągnięcia międzynarodowej konwergencji w dziedzinie nadzoru nad ryzykiem związanym z ICT należy w jak największym stopniu opierać się na istniejących standardach międzynarodowych i brać je pod uwagę;
277. #
proponuje wprowadzenie horyzontalnych wymogów dotyczących cyberbezpieczeństwa na podstawie istniejących przepisów oraz, w stosownych przypadkach, nowych horyzontalnych aktów ustawodawczych, aby zapobiec rozdrobnieniu i zapewnić spójne podejście do cyberbezpieczeństwa we wszystkich grupach produktów; zauważa, że produkty z zakresu AI znajdujące się na jednolitym rynku cyfrowym i mające oznakowanie CE mogłyby w przyszłości wyznaczać zarówno wysoki poziom bezpieczeństwa fizycznego, jak i odpowiedni do ryzyka poziom odporności cybernetycznej oraz sygnalizować zgodność z odpowiednimi przepisami UE;
278. #
proponuje, aby państwa członkowskie zachęcały do stosowania wymogów dotyczących cyberbezpieczeństwa w odniesieniu do systemów AI za pośrednictwem polityki zamówień publicznych, w tym przez wprowadzenie obowiązku stosowania pewnych zasad etycznych i zasad bezpieczeństwa przy zamawianiu aplikacji AI, w szczególności w sektorach krytycznych;
279. #
domaga się, aby Agencja Unii Europejskiej ds. Cyberbezpieczeństwa (ENISA) przeprowadzała sektorowe oceny ryzyka w zakresie bezpieczeństwa, począwszy od sektorów, publicznych i prywatnych, zaangażowanych w najbardziej ryzykowne i wrażliwe zastosowania sztucznej inteligencji, o największym potencjale negatywnego wpływu na zdrowie ludzkie, bezpieczeństwo, ochronę i prawa podstawowe; podkreśla, że ENISA, wraz z Europejskim Centrum Kompetencji w dziedzinie Cyberbezpieczeństwa i siecią krajowych ośrodków koordynacji powinna ocenić incydenty związane z cyberbezpieczeństwem w celu zidentyfikowania luk i nowych słabych punktów oraz doradzenia instytucjom UE w odpowiednim czasie w sprawie odpowiednich działań naprawczych;
280. #
zachęca przedsiębiorstwa, które wykorzystują, opracowują lub wdrażają systemy oparte na AI, działające na jednolitym rynku cyfrowym, do opracowania jasnej i niezależnie ocenianej strategii cyberbezpieczeństwa na podstawie indywidualnej sytuacji w zakresie ryzyka; zachęca do uwzględnienia systemów AI w modelowaniu zagrożeń i zarządzaniu ryzykiem w zakresie bezpieczeństwa; proponuje, aby Komisja, ENISA i organy krajowe wspierały ten proces;
281. #
stwierdza, że wymogi dotyczące cyberbezpieczeństwa produktów AI powinny obejmować cały ich cykl życia; podkreśla, że musi być również jasne, że każda firma w łańcuchu dostaw musi odegrać swoją rolę w przyczynianiu się do tworzenia odpornych produktów AI; zwraca uwagę, że nowe wymogi powinny opierać się na powiązanym ryzyku w danej grupie produktów oraz na stopniu wpływu na poziom ryzyka, aby uniknąć nieproporcjonalnych obciążeń dla MŚP i przedsiębiorstw typu start-up;
282. #
proponuje, by przy opracowywaniu ogólnounijnego systemu certyfikacji godnej zaufania sztucznej inteligencji uwzględnić inicjatywy istniejące w niektórych państwach członkowskich, takie jak niemiecki katalog kryteriów zgodności usług w chmurze dla sztucznej inteligencji czy maltański program certyfikacji sztucznej inteligencji;
iii. Cyberobrona #
283. #
apeluje do państw członkowskich o prowadzenie aktywnej polityki europejskiej dyplomacji cyfrowej poprzez potępianie i przypisywanie autorstwa cyberataków wspieranych przez podmioty zagraniczne, w tym ataków z wykorzystaniem AI, przy jednoczesnym wykorzystaniu pełnego zestawu narzędzi unijnej dyplomacji; z zadowoleniem przyjmuje fakt, że zestaw narzędzi dla dyplomacji cyfrowej UE obejmuje zakończenie pomocy finansowej i sankcje wobec tych krajów lub ich pełnomocników, którzy angażują się w szkodliwe działania w cyberprzestrzeni lub ataki hybrydowe, w tym kampanie dezinformacyjne, lub którzy sponsorują cyberprzestępstwa; uznaje, że cyberobrona jest do pewnego stopnia skuteczniejsza, jeżeli obejmuje również pewne środki i działania ofensywne, pod warunkiem że ich stosowanie jest zgodne z prawem międzynarodowym;
284. #
proponuje ponadto wzmocnienie zdolności w zakresie cyberbezpieczeństwa w Europejskiej Agencji Obrony, w tym poprzez wykorzystanie systemów opartych na AI w celu wspierania skoordynowanego i szybkiego reagowania na cyberataki; zaleca monitorowanie wdrażania polityki cyberobrony w każdym państwie członkowskim oraz ocenę przydziału odpowiednich zasobów w UE;
285. #
podkreśla potrzebę przeanalizowania wpływu AI na bezpieczeństwo europejskie i opracowania zaleceń dotyczących sposobów sprostania nowym wyzwaniom w zakresie bezpieczeństwa na szczeblu UE, we współpracy z państwami członkowskimi, sektorem prywatnym, badaczami, naukowcami i społeczeństwem obywatelskim;
286. #
zachęca państwa członkowskie, aby podjęły środki mające na celu nagradzanie za wykrywanie luk w zabezpieczeniach i wspieranie audytów produktów, systemów i procesów opartych na AI;
iv. Wojskowe zastosowania AI #
287.
zauważa, że wszelkie wykorzystanie AI do celów wojskowych musi podlegać ścisłym mechanizmom kontroli i nadzoru ze strony człowieka, zasadom etycznym oraz pełnemu poszanowaniu międzynarodowych praw człowieka i prawa humanitarnego; zauważa ponadto, że UE powinna wraz z partnerami o podobnych poglądach pracować nad międzynarodowymi ramami bezpiecznych badań, rozwoju i wykorzystania broni opartej na AI, które wzmocnią międzynarodowe prawo humanitarne, w tym w kontekście prawa konfliktów zbrojnych; przypomina o międzynarodowych normach i zasadach, takich jak proporcjonalność siły, których należy przestrzegać podczas opracowywania i wykorzystywania nowych technologii wojskowych;
288.
zauważa, że technologie oparte na AI stanowią coraz ważniejszy element wyposażenia i strategii wojskowej; podkreśla, że wyłączne zastosowania AI do celów wojskowych i bezpieczeństwa narodowego powinny być traktowane w sposób ściśle odrębny od zastosowań cywilnych; przypomina, że kwestiami związanymi z nowymi technologiami w dziedzinie wojskowości zajmuje się grupa ekspertów rządowych ds. powstających technologii w dziedzinie autonomicznych śmiercionośnych systemów uzbrojenia, w tym kwestiami związanymi z AI, i że w grupie tej reprezentowane są państwa członkowskie UE;
289.
z zadowoleniem przyjmuje przyszły Kompas Strategiczny UE, który ma zapewnić ramy i pewien poziom ambicji w odniesieniu do aspektów AI związanych z bezpieczeństwem i obroną; przypomina, że stała współpraca strukturalna w ramach wspólnej polityki bezpieczeństwa i obrony oraz Europejski Fundusz Obrony pozwolą państwom członkowskim i Unii na zwiększenie inwestycji, potencjału i interoperacyjności w dziedzinie nowych technologii, w tym AI;
290.
stwierdza, że UE powinna uznać AI za kluczowy element europejskiej suwerenności technologicznej;
291.
stwierdza, że państwa członkowskie powinny nadal szkolić swój personel wojskowy, aby zapewnić mu umiejętności cyfrowe niezbędne do wykorzystania AI w systemach kontroli, systemach operacyjnych i komunikacyjnych; z zadowoleniem przyjmuje podejście Europejskiego Funduszu Obrony do autonomicznych śmiercionośnych systemów uzbrojenia i jego art. 10 ust. 6; podkreśla znaczenie Europejskiego Funduszu Obrony dla wspierania współpracy transgranicznej między krajami UE w zakresie wojskowych badań nad sztuczną inteligencją, opracowywania najnowocześniejszych technologii obronnych i budowy niezbędnej infrastruktury, a mianowicie centrów danych o silnych zdolnościach cybernetycznych;
292.
wzywa Radę do przyjęcia wspólnego stanowiska w sprawie autonomicznych systemów uzbrojenia, które zapewniałoby znaczącą kontrolę człowieka nad ich funkcjami krytycznymi; nalega na rozpoczęcie międzynarodowych negocjacji w sprawie prawnie wiążącego instrumentu, który zakazywałby całkowicie autonomicznych systemów uzbrojenia; stwierdza, że w porozumieniu międzynarodowym należy określić, iż wszelka śmiercionośna broń wykorzystująca AI musi podlegać znaczącemu nadzorowi i kontroli ze strony człowieka, co oznacza, że człowiek uczestniczy w procesie podejmowania decyzji, a zatem jest ostatecznie odpowiedzialny za decyzję o wyborze celu i podjęciu śmiercionośnego działania;
293.
wzywa do ściślejszej współpracy z NATO w dziedzinie cyberobrony i apeluje do sojuszników NATO o wsparcie wielostronnych wysiłków na rzecz uregulowania kwestii wykorzystania AI do celów wojskowych;
#
5.Wniosek: pilna potrzeba działania! #
294. #
uważa, że trwająca transformacja cyfrowa, w której kluczową rolę odgrywa AI, wywołała globalną rywalizację o przywództwo w dziedzinie technologii; podkreśla, że dotychczas UE pozostawała w tyle, w związku z czym istnieje ryzyko, że przyszłe standardy technologiczne będą opracowywane bez wystarczającego wkładu UE, często przez podmioty niedemokratyczne, co stanowi wyzwanie dla stabilności politycznej i konkurencyjności gospodarczej; stwierdza, że UE musi pełnić rolę podmiotu wyznaczającego światowe standardy w zakresie AI;
295. #
podkreśla, że AI, choć często przedstawiana jako nieprzewidywalne zagrożenie, może być potężnym narzędziem cyfrowym i w wielu istotnych aspektach być wyznacznikiem zmian, w tym poprzez oferowanie innowacyjnych produktów i usług, zwiększanie wyboru dla konsumentów i podnoszenie wydajności procesów produkcyjnych; zauważa, że przyjęcie technologii AI niesie ze sobą wyraźne korzyści i możliwości dla całego społeczeństwa, w tym w dziedzinie opieki zdrowotnej, zrównoważonego rozwoju, bezpieczeństwa i konkurencyjności; zwraca uwagę, że technologie AI niosą ze sobą jednocześnie ryzyko ograniczenia ludzkiej sprawczości i zastępowania ludzkiej autonomii; podkreśla, że zarówno te korzyści, jak i zagrożenia powinny przyświecać regulacjom i komunikacji społecznej w zakresie AI;
296. #
podkreśla, że UE ma potencjał kształtowania międzynarodowej debaty na temat AI oraz opracowania czołowych w skali światowej wspólnych zasad i standardów, promujących ukierunkowane na człowieka, godne zaufania i zrównoważone podejście do AI, w pełni zgodne z prawami podstawowymi; podkreśla jednak, że możliwość skonsolidowania takiego wyróżniającego się europejskiego podejścia do AI na arenie międzynarodowej wymaga szybkiego działania, dlatego UE musi wkrótce uzgodnić wspólną strategię w zakresie AI oraz ramy regulacyjne; podkreśla, że kształtowanie międzynarodowych norm i standardów technologicznych wymaga ściślejszej koordynacji i współpracy z partnerami demokratycznymi o podobnych zapatrywaniach;
297. #
podkreśla, że obecnie UE jest jeszcze daleka od spełnienia swoich aspiracji, by zyskać konkurencyjność w obszarze AI na skalę światową; w tym kontekście podkreśla znaczenie zapewnienia zharmonizowanych zasad i norm, pewności prawa i równych szans w celu wspierania wdrażania AI i innowacji, w tym poprzez usunięcie niepotrzebnych barier administracyjnych dla przedsiębiorstw typu start-up, MŚP i dla społeczeństwa obywatelskiego; uznaje, że radykalne zmiany tej skali mają różny wpływ na różne części społeczeństwa, i podkreśla, że transformacja cyfrowa musi odbywać się przy pełnym poszanowaniu praw podstawowych; wzywa Komisję, państwa członkowskie i Parlament, w tym jego właściwe komisje, do realizacji zaleceń zawartych w planie działania UE na rzecz AI;
298. #
wzywa do stworzenia otoczenia regulacyjnego dla AI, które zapewni skuteczne zarządzanie i ochronę praw podstawowych, a jednocześnie ułatwi konkurencyjny dostęp do rynków cyfrowych podmiotom każdej wielkości, aby promować innowacje i wzrost gospodarczy z korzyścią dla wszystkich; podkreśla, że konkurencyjna, dostępna i uczciwa gospodarka oparta o dane i bazująca na wspólnych standardach jest warunkiem wstępnym odpowiedniego rozwoju i szkolenia AI; w tym kontekście zwraca uwagę na ryzyko, że koncentracja rynku w gospodarce opartej o dane rozszerzy się na gospodarkę zastosowań AI;
299. #
podsumowuje, że postępy w osiąganiu ambitnych celów cyfrowych UE w dziedzinach takich jak AI wymagają znacznie większego stopnia integracji i harmonizacji jednolitego rynku cyfrowego, aby promować wymianę transgraniczną oraz gwarantować zastosowanie takich samych zasad i standardów w całej UE; podkreśla w tym względzie, że instytucje UE muszą zwalczać nadużywanie pozycji rynkowej w celu wyrównania warunków konkurencji;
300. #
stwierdza, że należy podjąć niezbędne kroki, aby zagwarantować, że transformacja cyfrowa będzie wspierać transformację ekologiczną, a nie ją utrudniać; stwierdza, że systemy AI wymagają solidnej infrastruktury i zdolności przyłączeniowych; podkreśla, że infrastruktura cyfrowa zgodna z Zielonym Ładem będzie ukierunkowana na wszystkie sektory i łańcuchy wartości oraz powinna być zgodna z zasadami gospodarki o obiegu zamkniętym; podkreśla, że AI nie będzie jednak funkcjonować bez odpowiedniego wdrożenia infrastruktury cyfrowej, w tym łączy szerokopasmowych, światłowodów, węzłów brzegowych i 5G; podkreśla znaczenie łagodzenia rosnącego zużycia energii i zasobów, aby do 2030 r. stworzyć infrastrukturę cyfrową neutralną dla klimatu;
301. #
podkreśla, że szybki postęp technologiczny wprowadzony przez AI będzie miał również wpływ na środki do życia wszystkich osób, które nie mają umiejętności potrzebnych do wystarczająco szybkiego dostosowania się do tych nowych technologii; zwraca uwagę, że choć nabycie umiejętności informatycznych poprzez podnoszenie i zmianę kwalifikacji może pomóc w rozwiązaniu wielu problemów społeczno-gospodarczych wynikających z braku dostosowania, jednak podkreśla, że oddziaływanie to należy również rozpatrywać w kontekście systemów opieki społecznej, infrastruktury miejskiej i wiejskiej oraz procesów demokratycznych; stwierdza, że w celu promowania przyjmowania innowacji w zakresie AI, zwiększenia akceptacji aplikacji opartych na AI i uniknięcia pozostawienia kogokolwiek w tyle konieczne jest zapewnienie ludziom środków umożliwiających zdobycie umiejętności cyfrowych; podkreśla, że w celu zwiększenia umiejętności cyfrowych i odporności cyfrowej edukacja oparta na ICT i STEM musi rozpoczynać się na wczesnym etapie i pozostać dostępna na wszystkich etapach życia; uważa, że inicjatywy mające na celu ustanowienie ekosystemów doskonałości AI, przyciągnięcie talentów w obszarze AI do UE i przeciwdziałanie drenażowi mózgów mają kluczowe znaczenie;
302. #
podkreśla znaczenie podjęcia wyzwań związanych z AI w odniesieniu do praw podstawowych, co pozwoli AI rzeczywiście stać się instrumentem służącym ludziom i społeczeństwu oraz realizującym wspólne dobro i interes ogólny; stwierdza, że aby zbudować zaufanie obywateli do AI, należy chronić ich prawa podstawowe we wszystkich aspektach życia, w tym w kontekście wykorzystania AI w sferze publicznej i w miejscu pracy; podkreśla w szczególności potrzebę odzwierciedlenia praw, celów i interesów kobiet i społeczności mniejszościowych w transformacji cyfrowej; podkreśla, że służby publiczne i ich struktury administracyjne muszą dawać przykład; zaznacza, że UE musi przyspieszyć wdrażanie systemów opartych na AI i administracji elektronicznej, aby ułatwić bezpieczne korzystanie z AI w administracji publicznej; podkreśla ponadto, że AI może umożliwić nowe rozwiązania w sektorze opieki zdrowotnej, jeśli odpowiednio zarządza się ryzykiem, a sprawiedliwy dostęp do opieki zdrowotnej jako zasada w pełni obejmuje zastosowania AI związane ze zdrowiem;
303. #
podsumowuje, że unijna strategia w zakresie AI nie powinna lekceważyć względów militarnych i bezpieczeństwa, które wynikają z globalnego wdrożenia technologii AI; podkreśla, że należy zacieśnić współpracę międzynarodową z partnerami o podobnych poglądach, aby chronić prawa podstawowe, a jednocześnie współpracować w celu zminimalizowania nowych zagrożeń technologicznych;
o
o o #
304. #
zobowiązuje swoją przewodniczącą do przekazania niniejszej rezolucji Radzie i Komisji.
(1) #
Dz.U. L 123 z 12.5.2016, s. 1.
(2) #
Dz.U. C 132 z 24.3.2022, s. 102.
(3) #
Teksty przyjęte, P9_TA(2021)0504.
(4) #
Dz.U. L 119 z 4.5.2016, s. 1.
(5) #
Dz.U. L 166 z 11.5.2021, s. 1.
(6) #
Dz.U. L 170 z 12.5.2021, s. 1.
(7) #
Dz.U. L 303 z 28.11.2018, s. 59.
(8) #
Dz.U. L 170 z 12.5.2021, s. 149.
(9) #
Dz.U. L 136 z 22.5.2019, s. 1.
(10) #
Dz.U. L 256 z 19.7.2021, s. 3.
(11) #
Dz.U. C 288 z 31.8.2017, s. 1.
(12) #
Dz.U. C 252 z 18.7.2018, s. 239.
(13) #
Dz.U. C 307 z 30.8.2018, s. 163.
(14) #
Dz.U. C 132 z 24.3.2022, s. 45.
(15) #
Dz.U. C 433 z 23.12.2019, s. 86.
(16) #
Dz.U. C 449 z 23.12.2020, s. 37.
(17) #
Dz.U. C 294 z 23.7.2021, s. 14.
(18) #
Dz.U. C 404 z 6.10.2021, s. 107.
(19) #
Dz.U. C 404 z 6.10.2021, s. 129.
(20) #
Dz.U. C 404 z 6.10.2021, s. 63.
(21) #
Dz.U. C 456 z 10.11.2021, s. 34.
(22) #
Dz.U. C 15 z 12.1.2022, s. 204.
(23) #
Dz.U. C 494 z 8.12.2021, s. 37.
(24) #
Dz.U. C 15 z 12.1.2022, s. 28.
(25) #
Dz.U. C 132 z 24.3.2022, s. 17.
(26) #
Roberts, M., Driggs, D., Thorpe, M. et al., „Common pitfalls and recommendations for using machine learning to detect and prognosticate for COVID-19 using chest radiographs and CT scans” [„Powszechnie napotykane pułapki i zalecenia dotyczące stosowania uczenia maszynowego do wykrywania i prognozowania COVID-19 na podstawie radiogramów klatki piersiowej i tomografii komputerowej”], Nature Machine Intelligence, 3, s. 199–217, 15 marca 2021 r.
(27) #
Badanie DG IPOL zatytułowane „Opportunities of Artificial Intelligence” [„Możliwości stwarzane przez sztuczną inteligencję”], czerwiec 2020 r.
(28) #
Dokument roboczy AIDA zatytułowany „Artificial Intelligence and the Green Deal” [„Sztuczna inteligencja a Zielony Ład”], marzec 2021 r.
(29) #
Komunikat Komisji z 18 listopada 2021 r.– Polityka konkurencji gotowa na nowe wyzwania (COM(2021)0713).
(30) #
Acemoglu, D., et al., AI and Jobs: Evidence from Online Vacancies, [AI a miejsca pracy – Dane z internetowych baz danych o wolnych miejscach pracy], National Bureau of Economic Research, grudzień 2020 r.
(31) #
Komunikat Komisji z 9 marca 2021 r. zatytułowany „Cyfrowy kompas na 2030 r.: europejska droga w cyfrowej dekadzie” (COM(2021)0118).
(32) #
Komisja Europejska, Skoordynowany plan w sprawie sztucznej inteligencji (COM(2018)0795).
(33) #
Wniosek dotyczący rozporządzenia Parlamentu Europejskiego i Rady ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji (akt w sprawie sztucznej inteligencji) i zmieniającego niektóre akty ustawodawcze Unii (COM(2021)0206).
(34) #
Komunikat Komisji do Parlamentu Europejskiego, Rady Europejskiej, Rady, Europejskiego Komitetu Ekonomiczno-Społecznego i Komitetu Regionów – Promowanie europejskiego podejścia do sztucznej inteligencji (COM(2021)0205).
(35) #
Dane za 2018 r.
(36) #
Koerner, K., „(How) will the EU become an AI superstar?” [„(Jak) UE stanie się supergwiazdą AI?”], Deutsche Bank, marzec 2020 r.
(37) #
Dz.U. L 316 z 14.11.2012, s. 12.
(38) #
Dyrektywa Rady 85/374/EWG z dnia 25 lipca 1985 r. w sprawie zbliżenia przepisów ustawowych, wykonawczych i administracyjnych państw członkowskich dotyczących odpowiedzialności za produkty wadliwe, Dz.U. L 210 z 7.8.1985, s. 29.
(39) #
Dyrektywa Parlamentu Europejskiego i Rady (UE) 2019/1024 z dnia 20 czerwca 2019 r. w sprawie otwartych danych i ponownego wykorzystywania informacji sektora publicznego (Dz.U. L 172 z 26.6.2019, s. 56).
(40) #
Dyrektywa Parlamentu Europejskiego i Rady 2014/61/UE z dnia 15 maja 2014 r. w sprawie środków mających na celu zmniejszenie kosztów realizacji szybkich sieci łączności elektronicznej (Dz.U. L 155 z 23.5.2014, s. 1).
(41) #
Rozporządzenie Parlamentu Europejskiego i Rady (UE) nr 910/2014 z dnia 23 lipca 2014 r. w sprawie identyfikacji elektronicznej i usług zaufania w odniesieniu do transakcji elektronicznych na rynku wewnętrznym oraz uchylające dyrektywę 1999/93/WE (Dz.U. L 257 z 28.8.2014, s. 73).
(42) #
Dz.U. L 295 z 21.11.2018, s. 1.
(43) #
Dz.U. L 79 I z 21.3.2019, s. 1.
(44) #
Dz.U. L 206 z 11.6.2021, s. 1.
Dodaj komentarz