Stephen Hawking, Elon Musk schvalují seznam zásad, jak zabránit umělé inteligenci, aby nás všechny zničila

Umělá inteligence je fascinující, rychle se vyvíjející obor s obrovským potenciálem – dobrým i špatným. Na jednu stranu je úroveň efektivity a automatizace, které může svět plný AI dosáhnout, neuvěřitelná; na druhou stranu, roboti, kteří ničí lidi a přebírají naši civilizaci, nezní jako zábavný způsob, jak strávit víkend.

Skupina mnoha vědců a techniků schválila seznam principů, jejichž cílem je řídit vývoj umělé inteligence směrem k produktivitě, nikoli k ničení. Mezi ty, kteří podporují osvědčené postupy, patří vědecká legenda Stephen Hawking a technologická ikona Elon Musk.



Principy Asilomar AI byly vytvořeny týmem robotistů, ekonomů a filozofů sestavených z Future of Life.



23 principů sahá od výzkumných strategií přes práva na data až po budoucí problémy včetně potenciální superinteligence, říká Future of Life. Tato sbírka principů…. zdůrazňuje, jak by současné „výchozí“ chování kolem mnoha relevantních problémů mohlo porušovat zásady, na jejichž dodržování se většina účastníků shodla.

Zde jsou některé ze zásad:



1. Cíl výzkumu: Cílem A.I. výzkum by měl spočívat ve vytváření nikoli neřízené inteligence, ale prospěšné inteligence.

5. Vyhýbání se závodu: Týmy rozvíjející A.I. systémy by měly aktivně spolupracovat, aby se zabránilo omezování bezpečnostních norem.

9. Zodpovědnost: Projektanti a stavitelé pokročilých A.I. systémy jsou zainteresovanými stranami v morálních důsledcích jejich použití, zneužití a akcí, s odpovědností a příležitostí tyto důsledky utvářet.



12. Osobní soukromí: Lidé by měli mít právo na přístup, správu a kontrolu údajů, které vytvářejí, vzhledem k tomu, že A.I. schopnost systémů analyzovat a využívat tato data.

16. Human Control: Lidé by si měli vybrat, jak a zda delegovat rozhodnutí na A.I. systémy, aby dosáhly lidmi zvolených cílů.

23. Společné dobro: Superinteligence by se měla rozvíjet pouze ve službách široce sdílených etických ideálů a ve prospěch celého lidstva spíše než jednoho státu nebo organizace.



Elon Musk popisuje sebe jako „Hlas rozumu“ mezi Silicon Valley a Bílým domem

Kategori: Zprávy