1. конкуренція законів
2. Андрій Незнамов, кандидат юридичних наук, керівник Дослідницького центру проблем регулювання робототехніки...
3. перший робоевропейскій
4. Страховка для робота
5. Хартія робовольностей
6. Юридичні підсумки
7. закони роботехніки

Наше деловое партнерство www.banwar.org

Розбираємо плани європейських парламентаріїв з регулювання робототехніки і наділення штучного інтелекту особливими правами електронної особистості.

Роботи і штучний інтелект все ширше проникають в наше життя. Ми вже звикли до думки про те, що скоро вони будуть оточувати людей всюди і стануть, мабуть, розумніші за нас. Чи зможуть не тільки керувати польотом або вигравати в шахи, а й приймати рішення, як справжня електронна особистість. Якими правами матиме таку інтелект? Чи потрібен йому паспорт? Резолюція, прийнята Європарламентом кілька місяців тому, передбачає і таке: спеціалізоване агентство з робототехніки і штучного інтелекту буде заносити розумні машини в особливий реєстр. А що ще?

конкуренція законів

Ще в 2006 році Німеччина однією з перших в світі приступила до широкої програми роботизації та інформатизації промисловості. Сьогодні про четверту промислової революції не говорить тільки ледачий. Поступово це питання стало одним з основних в стратегічній порядку всього Євросоюзу. У 2013 році влада ЄС створили приватно-державне партнерство SPARC - проект, цілком присвячений фінансуванню і розвитку робототехніки.

Андрій Незнамов, кандидат юридичних наук, керівник Дослідницького центру проблем регулювання робототехніки і штучного інтелекту «Робоправо»

«Без сумнівів, проблема регулювання робототехніки скоро стане актуальною і для Росії. Бачу по досвіду інших країн: уряду США, Китаю, Японії, ЄС, Південної Кореї цілком серйозно бачать за роботами майбутнє і визнають це офіційно. Роботи повинні впоратися з тими проблемами, які зараз не може вирішити ніхто, тому ми всі стаємо свідками неймовірної конкуренції, яка не поступається космічній гонці. Всі хочуть перемогти, і законам відводиться особливе місце в цій боротьбі. Головне - зробити так, щоб роботизації нічого не заважало ».

Однак конкуренція в цій сфері дуже висока. Китай не горить бажанням втрачати звання «світової фабрики» і впроваджує промислових роботів тисячами. Японія шукає в роботах можливість вирішити проблему старіючого населення. США лідирує по числу компаній, що займаються дослідженнями і розробкою роботів, а Південна Корея - по їх використанню в промисловому виробництві.

При такому активному суперництві на перший план виходять питання регулювання робототехніки, які можуть принести цілком відчутні економічні та технологічні результати. Так, прийнятий в Кореї в 2008 році закон «Про розвиток та поширення розумних роботів» дозволив підняти їх виробництво до 2016 року на 80% і приніс країні 4 млрд доларів. Держпідтримка може прискорити або загальмувати розвиток галузі, а держава, яка прийняла всебічне законодавство в цій сфері, задасть стандарти, на які будуть орієнтуватися і інші країни.

перший робоевропейскій

У лютому 2017 року Європарламент прийняв резолюцію «Норми цивільного права про робототехніці». Документ, що складається з більш ніж сотні пунктів, присвячений найрізноманітніших аспектів і проблем робототехніки і штучного інтелекту. Зокрема, пропонується впровадження загальноєвропейської системи реєстрації розумних машин.

За задумом парламентарів, окремим категоріям роботів слід привласнити індивідуальний реєстраційний номер, який буде заноситися до спеціального реєстру. Тут бажаючі зможуть знайти детальну інформацію про роботу, включаючи дані про виробника, власника та умови виплати компенсації у разі заподіяння шкоди. Підтриманням системи і контролем має займатися спеціалізоване агентство з робототехніки і штучного інтелекту, яке могло б взятися і за інші аспекти регулювання в цій галузі.

Крім того, Європарламент абсолютно справедливо зауважив, що однією з найбільш швидкозростаючих областей залишається роботизация людського організму, яка веде до зростання нашої залежності від гаджетів. Але що робити людині, якщо виробник імплантату з якихось причин перестане його підтримувати - наприклад, збанкрутує? ..

Проблему пропонується вирішити створенням незалежних надійних закладів, які займуться збереженням працездатності життєво важливих носяться медичних пристроїв - від технічного обслуговування до ремонту і апгрейда. Для таких фірм виробники зобов'язані будуть зберігати і надавати всю технічну інформацію про своїх пристроях, включаючи копію вихідного коду програм.

Страховка для робота

Парламентарії виступають і за введення страхування відповідальності за заподіяну роботом шкоду - за аналогією з ОСАГО. Справді, чим вище рівень автоматизації машини, тим складніше встановити особу, яка несе відповідальність за завдану нею шкоду. Тому обов'язкове страхування ризиків, пов'язаних з діями роботів, дозволить потерпілому гарантовано отримати компенсацію, а на випадки, що не покриваються страховкою, може бути використаний резервний компенсаційний фонд.

Втім, Європарламент заглянув і далі - в еру повністю самостійних машин, які зможуть самі знаходити собі контрагентів-роботодавців, обговорювати умови договорів і вирішувати, як їх виконувати. Поки що чиновники не змогли домовитися, за якими саме правилами буде наступати відповідальність за шкоду, завдану таким повністю автономної машиною. Це питання залишено на найближче майбутнє.

Хартія робовольностей

Турбує Європарламент і моральна сторона розвитку робототехніки. Тому в якості додатку до резолюції парламентарії представили «кодекс етики», яким розробникам робототехніки пропонують керуватися добровільно. Мабуть, з ключовими принципами кодексу легко погодяться всі: «роби благо» і «не нашкодь» запозичені із знаменитих «законів роботехніки» Айзека Азімова. Принцип самостійності передбачає добровільну інформовану згоду людини на взаємодію з роботом, а принцип справедливості - правильний розподіл створених при цьому благ.

Цікавий пункт цього документа - «право на undo», можливість скасування дії, яка повинна стати обов'язковою функцією системи контролю робота. Крім того, парламентарії задали рамки майбутньої всеосяжної «Хартії робототехніки». Пропонується подумати навіть про те, чи повинні в перспективі найдосконаліші автономні роботи отримати особливий правовий статус електронних осіб - «з їх особливими правами і обов'язками, включаючи обов'язок відшкодування будь-якого заподіяної ними шкоди».

Не дивно, що саме це (в загальному, другорядне) положення резолюції стало найбільш обговорюваним публікою. Однак багато юристів розглядають такі плани як аж надто передчасні. У дослідженні, яке Наталі Невеянс з Центру вивчення права, етики та процедур (Університет Артуа) провела для Європарламенту, ідея названа «марною і недоречною». На думку вченого, прихильники електронної особистості занадто орієнтуються на наукову фантастику, сприймаючи роботів як залізних людських двійників. Надавати їм особливий суспільний статус - «значить розмивати кордони між людиною і машиною, між живим і мертвим, людським і нелюдським».

Юридичні підсумки

Варто сказати, що законотворчий процес в ЄС дуже специфічний. Прийнята резолюція технічно ще не закон: право законодавчої ініціативи тут має лише Єврокомісія. Тому резолюцію Європарламенту варто розглядати як формальне звернення до неї з проханням прийняти ті чи інші конкретні заходи. Куля на стороні законодавців - і хоча реагувати на такі документи Єврокомісія не зобов'язана, мало хто сумнівається в тому, що найближчим часом буде прийнятий і чіткий закон, який регулює робототехніку. Можливо, він ляже в основу законодавств інших країн - і всього нашого майбутнього.

закони роботехніки

Людству не звикати до того, що закони нового суспільного укладу спершу обмірковують філософи, фантасти - і лише потім до них підступаються юристи та економісти. Закони роботехніки пережили ту ж еволюцію, починаючи від першої появи на книжкових сторінках, через сатиру, фантастику і аматорські дискусії до обговорення серйозними бізнесменами та офіційними особами.

Варіант: Айзек Азімов *

Рік: одна тисячі дев'ятсот сорок два

1. Робот не може заподіяти шкоду людині або своєю бездіяльністю допустити, щоб людині було завдано шкоди.

2. Робот повинен коритися всім наказам, які дає людина, крім тих випадків, коли ці накази суперечать Першому закону.

3. Робот повинен піклуватися про свою безпеку в тій мірі, в якій це не суперечить Першому або Другому законам.

* У 1986 році в романі Азімова «Академія і Земля» з'являється Нульовий закон робототехніки: «Робот не може нашкодити людству або своєю бездіяльністю допустити, щоб йому було завдано шкоди». У 2016 році американський професор-юрист Марк Ротенберг висунув Четвертий і П'ятий закони: «Робот повинен відкрито ідентифікувати себе» і «Робот повинен бути здатний публічно обґрунтувати свої дії».

Варіант: EPSRC *

Рік: 2011

1. Роботи не повинні розроблятися з єдиною метою знищення або заподіяння шкоди людям.

2. Відповідальною особою виступає людина, а не робот. Робот - інструмент для досягнення людських цілей.

3. Роботи повинні розроблятися з урахуванням безпеки їх використання.

4. Роботи - штучні створення, вони не повинні грати на емоціях чутливих людей. Робот не може бути не відрізнятись від людини.

5. Завжди повинна бути можливість дізнатися особа, юридично відповідальна за даного робота.

* Комітет з інженерії та наукових досліджень (Engineering and Physical Sciences Research Council) - британський державне агентство, яке займається регулюванням науково-технічної сфери в країні.

Варіант: Сатья Наделла *

Рік до: 2016

1. Штучний інтелект (ШІ) повинен створюватися, щоб допомагати людству.

2. ІІ повинен бути прозорий: завжди повинна бути можливість з'ясувати, як він працює.

3. ІІ повинен призводити до зростання ефективності вирішення завдань, не порушуючи гідності людей.

4. ІІ повинен підтримувати розумну конфіденційність і заслужити довіру, захищаючи ввірену йому інформацію.

5. ІІ повинен контролюватися алгоритмічно: людина має можливість «скасувати» ненавмисно заподіяну їм шкоду.

6. ІІ повинен бути захищений від перешкод і ставитися до всіх людей однаково.

* В той час глава Microsoft; правила були перераховані в інтерв'ю журналу Slate.

Варіант: Марк Тільда ​​*

Рік до: 2016

1. Робот повинен захищати своє існування за всяку ціну.

2. Робот повинен знаходити і підтримувати доступ до джерела енергії.

3. Робот повинен постійно шукати нові, кращі джерела енергії.

* Великий робототехніки, засновник компанії WowWee, автор концепції BEAM. Його правила створені саме для BEAM-роботів, які побудовані на основі простих аналогових ланцюгів - нехитрих, зате надійних і ефективних.

Стаття «Нові закони робототехніки» опублікована в журналі «Популярна механіка» ( №8, серпень 2017 ).