Komisja Wolności Obywatelskich, Sprawiedliwości i Spraw Wewnętrznych

Transkrypt

1 Parlament Europejski Komisja Wolności Obywatelskich, Sprawiedliwości i Spraw Wewnętrznych /2103(INL) OPINIA Komisji Wolności Obywatelskich, Sprawiedliwości i Spraw Wewnętrznych dla Komisji Prawnej zawierająca zalecenia dla Komisji w sprawie przepisów prawa cywilnego dotyczących robotyki (2015/2103(INL)) Sprawozdawca komisji opiniodawczej: Michał Boni (Inicjatywa art. 46 Regulaminu) (*) Zaangażowana komisja art. 54 Regulaminu AD\ docx PE v03-00 Zjednoczona w różnorodności

2 PA_INL PE v /7 AD\ docx

3 WSKAZÓWKI Komisja Wolności Obywatelskich, Sprawiedliwości i Spraw Wewnętrznych zwraca się do Komisji Prawnej, jako komisji przedmiotowo właściwej: o uwzględnienie w końcowym tekście projektu rezolucji następujących wskazówek: A. mając na uwadze, że technologiczny postęp w dziedzinie robotyki przyniesie pozytywne skutki w gospodarce Unii oraz w codziennym życiu jednostek, ale może również wiązać się z zagrożeniami, którym trzeba zaradzić; mając na uwadze, że rozwój wszystkich nowych paradygmatów technologicznych i produkcyjnych w ramach programu Horyzont 2020 i poza tymi ramami musi być zgodny z zasadami etycznymi i należycie uwzględniać prawa podstawowe zapisane w Karcie praw podstawowych; B. mając na uwadze, że niektóre państwa trzecie przyjęły wytyczne i przepisy dotyczące robotyki, a niektóre państwa członkowskie podjęły konkretne rozważania na ten temat; mając na uwadze, że ramy regulacyjne, którym na szczeblu unijnym podlega rozwój i zastosowanie robotyki i sztucznej inteligencji, a które opierają się na obowiązujących przepisach, takich jak unijne ogólne rozporządzenie o ochronie danych 1, mogą zapobiec fragmentacji przepisów na jednolitym rynku oraz dodatkowo zwiększyć ochronę praw podstawowych przysługujących wszystkim obywatelom UE, związanych z godnością ludzką oraz życiem prywatnym i rodzinnym, ochronę danych osobowych i własności intelektualnej, wolności wypowiedzi i informacji, równości i niedyskryminacji, solidarności, praw obywateli i wymiaru sprawiedliwości, jak również ochronę i bezpieczeństwo, zgodnie z zasadą proporcjonalności; Zasady etyczne 1. uważa, że w razie potrzeby unijne ramy prawne powinny zostać zaktualizowane i uzupełnione podstawowymi zasadami etycznymi dotyczącymi projektowania, inżynierii, testowania oraz zastosowania robotów i sztucznej inteligencji, żeby zagwarantować, że takie technologie będą mogły rzeczywiście poprawić jakość ludzkiego życia; wzywa do tego, by przy opracowywaniu i stosowaniu takich technologii zawsze uwzględniać zasadę ostrożności; 2. uważa, że robotyka i sztuczna inteligencja, zwłaszcza z wbudowaną autonomią, w tym zdolnością do uzyskiwania, gromadzenia i wymieniania szczególnie wrażliwych informacji z różnymi zainteresowanymi podmiotami, oraz możliwością samodzielnego uczenia się czy wręcz rozwojowej samodzielnej zmiany, powinny podlegać rygorystycznym konceptualnym przepisom lub zasadom, takim jak zasada, że robot nie może zabić człowieka ani jemu szkodzić oraz że musi być posłuszny człowiekowi i podlegać jego kontroli; uważa, że proces gromadzenia, przetwarzania i wykorzystywania danych osobowych przez roboty i sztuczną inteligencję musi być przejrzysty i zrozumiały; jest zdania, że zasady te powinny opierać się na neutralności technologicznej i badaniach empirycznych; popiera opracowanie ram 1 Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) (Dz.U. L 119 z , s. 1). AD\ docx 3/7 PE v03-00

4 opartych na założeniu etycznego działania przeznaczonych dla naukowców, pracowników akademickich i inżynierów,, które gwarantowałyby, że te rozwiązania technologiczne nie będą utrudniać badań i rozwoju technologicznego, ale będą zgodne z istniejącymi unijnymi i krajowymi kodeksami etycznymi i praktyką w tym zakresie, a także z prawami i zasadami ujętymi w Karcie praw podstawowych, w szczególności z zasadą godności ludzkiej, poszanowania i ochrony życia prywatnego i rodzinnego, ochrony i bezpieczeństwa, ochrony danych osobowych, ochrony własności intelektualnej, wolności wypowiedzi i informacji, równości i niedyskryminacji, solidarności, praw obywatelskich i wymiaru sprawiedliwości, zgodnie z zasadą proporcjonalności; 3. przyznaje, że określenie tych praw i zasad oraz ich praktyczne zastosowanie wymaga zintensyfikowania badań w dziedzinie etyki sztucznej inteligencji; uważa, że Europejska Grupa ds. Etyki w Nauce i Nowych Technologiach mogłaby odgrywać istotną rolę w określaniu etycznych norm i wytycznych, które będą nastawione na przyszłość i dostosowane do przyszłych zmian technologicznych; 4. podkreśla potrzebę zajęcia się kwestią psychologicznych i społecznych skutków interakcji między człowiekiem a robotem oraz dwoistym charakterem skutków technologii dla zdolności człowieka, ze szczególnym uwzględnieniem grup szczególnie wrażliwych, zwłaszcza dzieci, aby uniknąć szkodliwej zależności od robotów, np. poprzez wywołanie reakcji emocjonalnych lub izolacji tych ludzi od rzeczywistości; 5. podkreśla, że robotyka i sztuczna inteligencja, szczególnie w dziedzinie zdrowia, opieki, robotów domowych i systemów cyberfizycznych, których niektóre elementy można wszczepić do ciała ludzkiego lub na tym ciele nosić, będą miały znaczący wpływ na życie ludzi, w szczególności osób niepełnosprawnych; zauważa jednak, że podstawowe znaczenie ma zapewnienie wszystkim równego dostępu do tych technologii; ponadto wskazuje na wpływ takiej robotyki na prywatność użytkowników ze względu na dostęp robotyki do tradycyjnie chronionej przestrzeni i wrażliwych danych osobowych; uważa, że należy zapewnić poszanowanie zasad etyki lekarskiej, bezpieczeństwo pacjentów i rzetelność świadczonej opieki; Ochrona prywatności i danych 6. ponownie stwierdza, że prawo do ochrony życia prywatnego oraz prawo do ochrony danych osobowych zapisane w art. 7 i 8 Karty praw podstawowych oraz art. 16 TFUE mają zastosowanie do wszystkich dziedzin robotyki i sztucznej inteligencji, a unijne ramy prawne w zakresie ochrony danych muszą być w pełni przestrzegane; podkreśla odpowiedzialność podmiotów projektujących roboty i sztuczną inteligencję za opracowywanie nowych produktów w taki sposób, aby były bezpieczne, pewne i dostosowane do celu, a także zgodne z procedurami dotyczącymi przetwarzania, podlegającymi obowiązującym przepisom, zasadzie poufności, anonimowości, sprawiedliwego traktowania i rzetelnego procesu; 7. wzywa Komisję do zagwarantowania, że wszelkie unijne przepisy w dziedzinie robotyki i sztucznej inteligencji będą obejmowały środki i uregulowania uwzględniające szybki rozwój technologiczny w tej dziedzinie, w tym rozwój systemów cyberfizycznych, dzięki którym prawodawstwo unijne nie pozostanie w tyle za tempem rozwoju technologicznego i nowych zastosowań; podkreśla, że takie przepisy muszą być zgodne z przepisami o ochronie prywatności i danych, tj. dotyczącymi obowiązków w zakresie informacji, prawa do uzyskania wyjaśnienia decyzji opartych na automatycznym PE v /7 AD\ docx

5 przetwarzaniu, wymogu przestrzegania zasad ochrony prywatności w fazie projektowania i w sposób domyślny, zasad proporcjonalności, konieczności, minimalizacji danych, celowości, jak również przejrzystych mechanizmów kontroli dla osób, których dane dotyczą, oraz organów ochrony danych, a także odpowiednich środków odwoławczych zgodnie z obowiązującymi przepisami; wzywa do przeglądu przepisów, zasad i kryteriów dotyczących korzystania z kamer i czujników, robotyki i sztucznej inteligencji w zgodzie z unijnymi ramami prawnymi dotyczącymi ochrony danych; 8. w unijnych ramach regulacyjnych domaga się jednolitego, przekrojowego podejścia do robotyki i sztucznej inteligencji, neutralnego pod względem technologicznym i obejmującego różne sektory, w których możliwe jest zastosowanie robotyki, takie jak transport, opieka zdrowotna, produkcja przemysłowa, telekomunikacja, egzekwowanie prawa i wiele innych; podkreśla, że w stosownych przypadkach obowiązujące ramy prawne należy uaktualnić i uzupełnić w celu zapewnienia równego poziomu ochrony danych, prywatności i bezpieczeństwa; 9. podkreśla znaczenie zapobieżenia masowej inwigilacji za pośrednictwem technologii wykorzystujących robotykę i sztuczną inteligencję; 10. wzywa Komisję i państwa członkowskie do wspierania ścisłej i przejrzystej współpracy między sektorem publicznym, sektorem prywatnym i środowiskami akademickimi, która wzmocniłaby wymianę wiedzy, a także do wspierania edukacji i szkoleń dla projektantów na temat uwarunkowań etycznych, bezpieczeństwa i poszanowania praw podstawowych, jak również dla konsumentów na temat wykorzystywania robotyki i sztucznej inteligencji, ze szczególnym uwzględnieniem bezpieczeństwa i prywatności danych; Bezpieczeństwo danych i systemów danych oraz przepływ danych 11. podkreśla, że swobodny przepływ danych ma pierwszorzędne znaczenie dla gospodarki cyfrowej oraz że jest niezwykle istotny dla rozwoju robotyki i sztucznej inteligencji; podkreśla, że wysoki poziom bezpieczeństwa robotyki i systemów sztucznej inteligencji jako całości, w tym ich wewnętrznych systemów danych i przepływów danych, ma kluczowe znaczenie dla odpowiedniego wykorzystania robotyki i sztucznej inteligencji; podkreśla, że należy zapewnić ochronę sieci połączonych wzajemnie robotów i sztucznej inteligencji, aby zapobiec ewentualnym naruszeniom bezpieczeństwa i cyberatakom lub niewłaściwemu wykorzystaniu danych osobowych, zwłaszcza gdy zbiera się i przetwarza dużą liczbę danych; podkreśla konieczność opracowania mechanizmu, który umożliwiałby użytkownikowi wstrzymanie przetwarzania jego danych osobowych w przypadku naruszenia bezpieczeństwa; zwraca uwagę na znaczenie działań badawczych i rozwojowych podejmowanych w dziedzinie technik zabezpieczenia danych i podkreśla wspólną odpowiedzialność organów publicznych i przedsiębiorstw za współpracę w celu zagwarantowania wysokiego poziomu bezpieczeństwa, ochrony i prywatności danych wykorzystywanych do komunikacji między ludźmi, robotami i sztuczną inteligencją, a także wysokiej jakości systemów rozpoznawania głosu i języka migowego; uważa, że producenci komercyjnego oprogramowania i sprzętu powinni ponosić odpowiedzialność w razie poważnych naruszeń bezpieczeństwa danych spowodowanych przez zaniedbanie z ich strony; wzywa Komisję i państwa członkowskie do wsparcia i tworzenia zachęt do rozwoju niezbędnej technologii, w tym bezpieczeństwa już w fazie projektowania oraz kanałów AD\ docx 5/7 PE v03-00

6 komunikacji; Drony (zdalnie kierowane bezzałogowe systemy powietrzne (BSP)) 12. podkreśla, że przy przetwarzaniu danych osobowych przez BSP niezależnie od tego, czy dokonują go organy publiczne do celów egzekwowania prawa, czy podmioty prywatne lub publiczne do innych celów dozwolonych przez prawo należy w pełni przestrzegać prawa do wolności i bezpieczeństwa oraz prawa do poszanowania życia prywatnego zapisanych w art. 6 i 7 Karty praw podstawowych, prawa do ochrony danych osobowych, ujętego w art. 8 Karty praw podstawowych i w art. 16 TFUE, a także unijnych ram prawnych w zakresie ochrony danych; wzywa Komisję do zbadania konieczności wprowadzenia obowiązkowego systemu identyfikacji i śledzenia BSP, który pozwala na ustalenie umiejscowienia statku powietrznego w czasie rzeczywistym podczas jego używania; 13. ponawia apel do Rady o opracowanie rygorystycznych i skutecznych wspólnych unijnych ram w sprawie wykorzystywania uzbrojonych bezzałogowych statków powietrznych, a jednocześnie nadanie nadrzędnego znaczenia poszanowaniu zasad etycznych, praw człowieka i międzynarodowego prawa humanitarnego oraz uwzględnianie takich kwestii jak ramy prawne, proporcjonalność, rozliczalność, przejrzystość i ochrona ludności cywilnej, w tym wszystkich możliwych środków ostrożności, aby uniknąć błędnego nakierowania statku i wyrządzania przypadkowych szkód wśród ludności cywilnej oraz sprawić, że ostateczna kontrola sprawowana jest przez człowieka i to on ponosi odpowiedzialność za działanie takiego statku; ponawia swoje wezwanie do zakazu produkcji, opracowywania i stosowania w pełni autonomicznej broni, która umożliwia przeprowadzanie ataków bez udziału człowieka; wzywa Komisję i państwa członkowskie, by zainicjowały szeroko zakrojony, międzynarodowy dialog polityczny w celu ustanowienia światowych norm prawnych i etycznych regulujących rozwój, rozpowszechnianie i wykorzystanie systemów broni w coraz większym stopniu zdalnie sterowanych, a także do ustanowienia w tym względzie odpowiednich ograniczeń prawnych i etycznych, np. w formie wiążącej umowy międzynarodowej; 14. uznaje godny uwagi postęp w technologii dronów, zwłaszcza w obszarze poszukiwań i ratownictwa, i utrzymuje, że jest to kierunek, w jakim Unia powinna zmierzać przy rozwijaniu technologii dronów; Kodeks postępowania 15. jest zdania, że w konkretnych dziedzinach, w których odpowiednie badania pokazują, że rozwój prawodawstwa byłby przedwczesny, odpowiednim przepisom powinny w miarę możliwości w całej Unii towarzyszyć zachęty ujęte w ramach miękkiego prawa (soft law) kodeksie postępowania lub partnerstwach publiczno-prywatnych w celu zapewnienia współpracy branży i podmiotów projektujących roboty z organami publicznymi oraz wszystkimi innymi właściwymi podmiotami; wyraża przekonanie, że takie instrumenty powinny skupić się na praktycznych rozwiązaniach zmierzających do zapewnienia prywatności i ochrony danych, godności ludzkiej, niedyskryminacji, bezpieczeństwa i etyki w branży robotyki oraz właściwego wykorzystania robotów i sztucznej inteligencji w życiu codziennym. PE v /7 AD\ docx

7 WYNIK GŁOSOWANIA KOŃCOWEGO W KOMISJI OPINIODAWCZEJ Data przyjęcia Wynik głosowania końcowego +: : 0: Posłowie obecni podczas głosowania końcowego Zastępcy obecni podczas głosowania końcowego Zastępcy (art. 200 ust. 2) obecni podczas głosowania końcowego Heinz K. Becker, Malin Björk, Michał Boni, Caterina Chinnici, Ignazio Corrao, Frank Engel, Tanja Fajon, Lorenzo Fontana, Mariya Gabriel, Kinga Gál, Ana Gomes, Nathalie Griesbeck, Sylvie Guillaume, Jussi Halla-aho, Monika Hohlmeier, Filiz Hyusmenova, Sylvia-Yvonne Kaufmann, Cécile Kashetu Kyenge, Marju Lauristin, Juan Fernando López Aguilar, Monica Macovei, Roberta Metsola, Claude Moraes, József Nagy, Péter Niedermüller, Judith Sargentini, Birgit Sippel, Branislav Škripek, Csaba Sógor, Helga Stevens, Traian Ungureanu, Bodil Valero, Harald Vilimsky, Josef Weidenholzer, Tomáš Zdechovský Daniel Dalton, Anna Hedh, Teresa Jiménez-Becerril Barrio, Ska Keller, Jeroen Lenaers, Andrejs Mamikins, Maite Pagazaurtundúa Ruiz, Christine Revault D Allonnes Bonnefoy, Barbara Spinelli Lynn Boylan, Verónica Lope Fontagné, Mylène Troszczynski, Tom Vandenkendelaere, Rainer Wieland AD\ docx 7/7 PE v03-00