Рішення останнього завдання: щоб приручити ШІ вченим доведеться зростити людину і машину

Прийшов час поговорити про серйозну проблему : що буде , коли людство створить штучний інтелект (ШІ ) . Чи стане він доброзичливим чи виявиться ворожим ? Всі дослідники сходяться в одному : створення штучного інтелекту стане останнім завданням людства : або сам ШІ вирішить всі наші проблеми , або ми вимремо як вид . Ілон Маск вважає , що знайшов спосіб " приручити процес " : потрібно зростити людини і машину .

ЗАГРОЗА: "БОЖЕСТВО НЕДРУЖНЄ"

" Знищення людської раси " , " заклик демона " , " екзистенціальна загроза " , " багато людей не розуміють небезпеки " . Ці висловлювання не сценарій нового фантастичного бойовика . Вони належать Стівену Хокінгу , Ілону Маску і Біллу Гейтсу . Людям , які вже кілька років закликають нас бути обережніше зі штучним інтелектом . Так , але ж " Термінатор " , " Матриця " , " З машини " та інші фільми роблять те ж саме , скажете ви . Подумаєш , проблема . У кіно ми завжди перемагаємо злі машини .

Деокупація півдня країни – як українські військові відвойовують території

Заборона на пересування країною для військовозобов'язаних – всі деталі

Ракетні удари по мирних українськиих містах - липень 2022

Ядерний тероризм Росії

Але експерти , які говорять про небезпеку ШІ , не ґрунтуються на наївних фільмах , де роботи – це ті ж люди , тільки з електрики і металу.

Це глобальна проблема людства, яку ви можете помітити навіть в дитячих книгах. Хитра Лисиця, злий і страшний сірий вовк, добродушний Ведмідь, боягузливий Зайчик, благородний Лев. І все це – частина величезної загальнолюдської помилки, іменованої "антропоморфізм". Або "персоніфікація". Або "наділення людськими якостями тварин, предметів, міфологічних створінь". Чомусь, говорячи про "недружній Ш" ми думаємо, що це "злий ШІ". А адже зло – це чисто людське поняття. Уявіть собі розумного богомола. Чому він повинен думати, як людина, і одружитися на самці, що відкушує йому голову?

Друга проблема в тому, що ми, обмежені людським мозком, навіть уявити собі не можемо, що буде творитися в мозку комп'ютерному. Тим більше постійно еволюціонуючому. Тим більше з якоюсь заданою початковою програмою.
Уявіть собі, що ви створили ШІ з єдиною метою: "Щастя всім, задарма, і нехай ніхто не піде скривдженим". Але, як завжди буває в старих казках про джинів, з бажаннями треба бути обережніше. Тому що через секунду надінтелект почне реалізовувати свою програму. Скажімо, переведе крихти з мільйонів рахунків на лабораторію, що вивчає наномеханізми. Створить витік. Відверне в сторону відеокамери та інші фіксуютчі прилади. Тихесенько розпорошить все в атмосферу. І в призначений час всі ми отримаємо розряди в центр задоволення, від яких ляжемо на землю і, посмикуючись в екстазі, помремо щасливими.

Завдання виконано, чи не так? А знаєте, чому так вийшло? Тому що штучний інтелект – це не людина! Як ми успадкували деякі "звички" амфібій, рептилій і ссавців, так ШІ успадкує деякі звички комп'ютерів. Наприклад, ідеальне виконання поставленого завдання. А мотивація комп'ютера – це програма, яку поставили творці, а не якісь ефемерні міркування про мораль, які порушуються вже по іншу сторону кордону країни, в якій ви живете. А оскільки в нашій задачі є "всім" і "нехай ніхто не піде", я не заздрю прибульцям, які опиняться поруч зі спорами нашого ШІ, що розлітаються Всесвітом. І це я ще не згадав пару милих нюансів.

Наприклад, ШІ захищатиме себе. Адже зі знищенням ШІ завершиться і виконання його програми, вірно? А ще надінтелекту потрібні ресурси. Для виконання тієї ж програми. Ну і, нарешті, перший ШІ на планеті, на думку Ніка Бострома, стане і останнім: навряд чи йому, що володіє надмисленням, потрібні конкуренти. І думаю, він знайде спосіб розібратися з непотрібними йому розробками.
Ви викликніть: "Пф-ф-ф, що за ідіот, невже він не зрозуміє!" І це думка істот, які добровільно рвуть м'язи і закачують в тіло модернізований пластик, щоб сподобатися протилежній статі? Ні, не зрозуміє. Тому що це абсолютно чужа вам істота, мисляча абсолютно чужими категоріями, яка йде по зовсім чужому шляху. ШІ буде створений як "комп'ютерна істота" і розвиватися почне відповідно.

ЯКІ БУВАЮТЬ ШІ І ЯК ЇХ СТВОРИТИ

РІВЕНЬ 1.Вузьконаправлений (слабкий ) штучний інтелект ( СШІ ) . Машина , яка вміє робити щось одне . Комп'ютер вашої машини , ваш телефон , спам – фільтр електронної пошти , пропозиції від магазинів на сайтах ( після того , як ви порилися по мережі , читаючи характеристики нового смартфона ) , перекладач від Google , системи розпізнавання голосу . Сам пошуковик Google . Медичні системи розпізнавання раку ( Watson від IBM ) . Аеропортами світу рулять СШІ . СШІ торгують акціями . СШІ знімають рекламні ролики .
СШІ допомагають керувати військовими системами цілих країн .

РІВЕНЬ 2. Загальний (сильний ) штучний інтелект ( ЗШІ ) , він же – інтелект людського рівня . Ця машина може робити все те ж , що і ми .

Як створити:

А. Обчислювальна потужність.По Рею Курцвейлу ( глава Університету Сингулярності ) кількість операцій в секунду нашого мозку дорівнює 10 квадрильйонів . Потрібно , щоб дешевий комп'ютер ( за 1000 доларів ) досяг цього рівня . У 1985 році комп'ютери були в трильйон разів слабкіше людського мозку . У 1995-му – в мільярд . У 2005-му – в мільйон . У 2015-му – в тисячу ( крутіше миші ) . В 2025 році комп'ютер за 1000 доларів за обчислювальної потужності не поступиться нашому мозку .

Б. Свідомість. Є три варіанти. По-перше, повторити людський мозок (ми поки не розуміємо, як він працює). Це нейромережі (імітують мозок, зміцнюючи зв'язки між транзисторами при правильній відповіді і послаблюючи при помилці) і емуляція (нарізати мозок тонкими пластинами, відсканувати, створити програмне забезпечення та завантажити в комп'ютер, ми вже виконали таке з плоским хробаком). По-друге, генетичні алгоритми: ввести дані, створити "еволюційний відбір" і почекати, поки кращі комп'ютери залишаться, а невдахи відсіється. По-третє, "закрити кришку і почекати" – запрограмувати ШІ на саморозвиток і не чіпати, поки він не напише повідомлення на кшталт "татко, я покакав". До речі, третій метод – найперспективніший.

РІВЕНЬ 3.Штучний надінтелект (ШНІ). Оксфордський філософ і спец по ШІ Нік Бострем визначає його як "інтелект, який набагато розумніший кращих людських умів в практично будь-якій сфері, включаючи наукову творчість, загальну мудрість і соціальні навички". Перехід до нього головний техножурналіст США Тім Урбан намалював у вигляді кумедного коміксу, де люди на станції "Людський рівень інтелекту" чекають поїзд-ШІ, а він проноситься мимо, не сповільняться ні на секунду. Уявіть собі еволюцію, яка за межами біологічних рамок, в якій кожен стрибок відбувається за частки секунди. Як би пафосно це не звучало, людство тисячоліттями вірило у Всемогутнього Бога – і отримає його вже в ХХI столітті. З усіма наслідками, що випливають.

ЩОБ ВБИТИ ДРАКОНА, НАМ ДОВЕДЕТЬСЯ САМИМ СТАТИ ДРАКОНАМИ

Древня китайська легенда говорить: хто уб'є дракона, сам стане драконом. У нас же, здається, вийде навпаки: спочатку людина сама стане драконом, а потім почне рубати летучих рептилій направо і наліво. Якщо пощастить. І якщо Ілон Маск нас не обдурить.
Щоб усвідомити, що саме намагається зробити творець Tesla і SpaceX, потрібно зрозуміти два факти. Перший: комунікація – це наше все. Саме завдяки комунікації людство опанувало планету і боязко поглядає на навколишній Всесвіт з думками про колонізацію. Другий – ми стаємо кіборгами. Поки це "зовнішні аксесуари": за якісь десятки років комп'ютери стали маленькими і поміщаються в кишені, по суті будучи "зовнішніми жорсткими дисками", що підключаються через "пальцезоровий інтерфейс" і з'єднаними з однією величезною інформаційною мережею. А ще існує "доповнена реальність", яка дозволяє дивитися на, скажімо, Єлисейські поля в Парижі і отримувати всю інформацію про неї завдяки спеціальним програмам. І віртуальна реальність, завдяки якій можна як грати в ігри, так і навчати астронавтів.

І тут з'явився " Нейролінк " , продукт однойменної компанії , яку купив і розвиває Ілон Маск з метою ... порятунку людства : " Темпи прогресу в цьому напрямку мають важливе значення . Ми не хочемо розробити цифровий надінтелект перш , ніж зможемо забезпечити хороше злиття з нейрокомп'ютерних інтерфейсом " .

"Нейролінк" зробить нас магами