Чотири (не зовсім) простих кроки до загального штучного інтелекту (ОІІ)

«За 15 років, з тих пір як я вперше представив термін «загальний штучний інтелект» (AGI), область ІІ значно просунулася. Сьогодні у нас є самокеровані автомобілі, автоматичне розпізнавання обличчя і захоплення зображень, машинний переклад та експертні гравці в особі ІЇ, а також багато іншого», говорить Бен Гертцель, CEO децентралізованої мережі SingularityNET. Далі – від першої особи.

Однак ці досягнення по суті залишаються в області «вузькоспрямованого ІІ» — штучного інтелекту, який виконує завдання, грунтуючись на спеціально визначених даних або правилах або ж ретельно розроблених навчальних ситуаціях. ІЇ, які можуть працювати, загалом, в непередбачених обставинах і протистояти світу як автономні агенти, як і раніше залишаються частиною майбутнього.

Загальний штучний інтелект (ОІІ): що це таке?

Залишається питання: що нам потрібно, щоб перетворити інструменти сучасного вузькоспрямованого штучного інтелекту, який все більше вливається в бізнес і суспільство, в той самий загальний штучний інтелект, про яку марять футурологи і письменники-фантасти?

Незважаючи на величезну різноманітність перспектив і відсутність браку технічних і концептуальних ідей на шляху до ОІІ, між експертами немає нічого схожого на угоду з цього питання.

Різноманітний ландшафт прото-ОІІ

Приміром, головний засновник Deep Mind Деміс Хассабис довгий час був шанувальником відносно сильно натхнених мозком підходів до ОІІ і продовжує публікувати роботи в цьому напрямку. З іншого боку, проект OpenCog, орієнтований на ОІІ, співзасновником якого я став у 2008 році, використовує менш орієнтований на мозок підхід – він включає нейронні мережі, при цьому потужно спираючись на символіко-логічні подання та імовірнісні висновки, а також еволюційне навчання програми.

До чого я веду, так це до того, що раз у нас є багато робочих підходів до пілотованих польотів – літаки, вертольоти, ракети і т. п., може бути так само багато робочих підходів до ОІІ, деякі з яких більшою мірою натхненні біологією, ніж інші. І, як і брати Райт, сьогоднішні піонери ОІІ керуються більшою мірою експериментами і інтуїцією, почасти тому, що ми поки не знаємо корисних теоретичних законів загального інтелекту, щоб направляти інженерний підхід до ОІІ по руху теорій; теорії ОІІ розвиваються органічно по мірі практики.

Чотири (не зовсім) простих кроки до ОІІ

Я вважаю, що ці чотири кроки в принципі досяжні до кінця мого життя, може бути навіть в наступні 5-10 років. Над кожним з цих кроків працюють багато команд найрозумніших людей у світі, включаючи, але ні в якому разі не обмежуючись моїми власними командами в SingularityNET, HansonRobotics і OpenCog.

Хороші новини в тому, що нам не потрібні радикально нові, кращі апаратні засоби, а також радикально інші алгоритми або датчики або приводи. Нам просто потрібно використовувати наші комп’ютери і алгоритми більш розумно, виконуючи наступні дії.

#1. Зробити когнітивну синергію практичною

Сьогодні у нас є багато потужних алгоритмів ШІ, але ми не використовуємо їх разом досить складним чином, тому втрачаємо багато синергетичного інтелекту, який міг би з’явитися від совісного їх використання. І навпаки, різні компоненти людського мозку налаштовані на спільну роботу з цікавою зворотним зв’язком і взаємодією. Нам необхідно створити системи, які забезпечать багату і повну координацію різних агентів ІЇ на різних рівнях в одній, складною, адаптивної мережі штучного інтелекту.

В архітектурі OpenCog, наприклад, ми намагається реалізувати це, створюючи різні алгоритми навчання та міркування, працюючи спільно над Atomspace Hypergraph, який дозволяє створювати гібридні мережі з символьних і подсимвольных сегментів. Наш движок ймовірнісної логіки, який обробляє факти та переконання, наш движок еволюційного навчання програми, яка обробляє практичні знання, наші глибокі нейронні мережі, обробні сприйняття – всі вони працюють спільно, оновлюючи один набір вузлів і зв’язків гиперграфа.

На іншому рівні, в мережі ШІ на блокчейне SingularityNET, ми працюємо над когнітивної синергією, дозволяючи різним агентам ІІ використовувати різні внутрішні алгоритми для запитів один до одного і обміну інформацією і результатами. Ідея полягає в тому, що мережа агентів ІІ, використовуючи спеціальний маркер для обміну цінностями, може створити загальну когнітивну економіку умів з інтелектом вищого рівня, який виходить за межі інтелекту окремих агентів. Це сучасна реалізація ідеї першопрохідника ІІ Марвіна Мінскі інтелекту як «суспільства умів» на блокчейне.

#2. З’єднати символьний і подсимвольный ІІ

Я вважаю, що ОІІ найбільш ефективно вдасться досягти за рахунок з’єднання алгоритмів, які використовують низькорівневим інтелектом, таких як сприйняття і рух (наприклад, глибокі нейронні мережі), з алгоритмами, які використовуються для абстрактних міркувань високого рівня (логічні движки).

Глибокі нейронні мережі домоглися вражаючого успіху останнім часом в обробці різних видів даних, включаючи зображення, відео, аудіо і, меншою мірою, тексту. Однак стає очевидно, що ці безпосередні архітектури мереж не дуже добре обробляють абстрактні знання.

Моя власна інтуїція підказує, що найкоротший шлях до ОІІ буде полягати в тому, щоб використовувати глибокі нейронні мережі там, де вони найбільше пристосовані, і зробити їх гібридними, наділити більш схожими на методи ШІ логічними системами, щоб вони могли обробляти більш просунуті аспекти людиноподібного свідомості.

#3. Архітектура цілісного організму

Люди– це не тільки свідомість, розум, а також і тіло, організм, тому досягнення ОІІ людського рівня вимагатиме включення систем ШІ в фізичні системи, здатні взаємодіяти з повсякденним людським світом в тонких моментах.

«Архітектура цілісного організму» (WHOA!) – прекрасна фраза, представлена моїм колегою в області робототехніки Девідом Хенсоном. В даний час ми працюємо з його прекрасним роботизованим творінням «Софією», розробку програмного забезпечення якої я перевів на платформу для експериментів з штучним інтелектом Open Cog і SingularityNET.

Загальний інтелект не вимагає людиноподібного тіла, та й взагалі тіла не потребує. Однак, якщо ми хочемо створити ОІІ, який, зокрема, проявляє людиноподібна пізнання і може розуміти людей, цей ОІІ повинен буде мати своєрідне поєднання пізнання, емоцій, соціалізації, сприйняття та рухи, що характеризує людську реальність. Очевидно, кращий спосіб для ОІІ отримати такого роду почуття – розташуватися в тілі, яке буде хоча б приблизно нагадувати людське.

Потреба в архітектурі цілісного організму пов’язана з важливістю емпіричного навчання для ОІІ. У свідомості людського дитини всі види даних змішуються складним чином, і цілі й завдання повинні уміщатися в категорії, структури і динаміку світу. Навіть різницю між собою і іншим потрібно усвідомити. У кінцевому рахунку, ОІІ повинен буде проводити такого роду своєрідне навчання і для себе.

Хоча забезпечувати систему ОІІ даними з текстів і баз даних не так вже й неправильно, необхідно також створити систему, яка буде взаємодіяти зі світом, сприймати його і досліджувати автономно і створювати власну модель себе і світу. Семантика все, чого вона навчається, таким чином, буде ґрунтуватися на власних спостереженнях. Якщо вона буде вивчати щось абстрактне, начебто мови або математики, їй доведеться обгрунтовувати семантику цих дисциплін у власному житті, а також в абстракції.

Експериментальне навчання не вимагає робототехніки. Але робототехніка цілісного організму забезпечує надзвичайно природний шлях за межі сучасних навчальних процесів, наприклад, до експериментального навчання ІІ.

#4. Масштабоване мета-навчання

ОІІ повинен не тільки вчитися, але і «вчитися, вчитися». ОНІ доведеться застосовувати свої алгоритми міркування і навчання рекурсивно до самого себе, щоб автоматично покращувати власну функціональність.

У кінцевому рахунку, здатність застосовувати навчання для поліпшення навчання повинна дозволити ОІІ просунутися далеко за межі можливостей людини. Зараз мета-навчання залишається складною, але критично важливим завданням. У SingularityNET, наприклад, ми починаємо застосовувати штучний інтелект OpenCog для розпізнавання патернів у власній ефективності на часовому відрізку, щоб він поліпшував власну продуктивність.

У напрямку доброзичливого ОІІ

Якщо моя точка зору на ОІІ вірна, як тільки один з цих чотирьох аспектів просунеться за межі поточного стану, ми отримаємо його — ОІІ людського рівня і далі.

Я знаходжу цю перспективу надзвичайно захоплюючою і трохи лякає. Мені також відомо, що деякі спостерігачі, включаючи таких великих людей, як Стівен Хокінг і Ілон Маск, висловлювалися рівно протилежним чином: більше страху, ніж захоплення. Я думаю, майже всі, хто серйозно ставиться до розробки ОІІ, вкладає багато зусиль в пом’якшення відповідних ризиків.

Один з висновків, до яких я прийшов у процесі моєї роботи над ШІ і робототехнікою, полягає в наступному: якщо ми хочемо, щоб наші ОІІ могли поглинати і розуміти людську культуру і цінність, кращим підходом буде включити ці ОІІ в загальні соціальні і емоційні контексти з людьми. Я відчуваю, що ми чинимо правильно в нашій роботі з «Софією» в Hanson Robotics; у недавніх експериментах ми використовували «Софію» в якості керівництва по медитації.

В останні кілька років я також захопився роботою по забезпеченню того, щоб ШІ розвивався так, щоб став эгалитарным і розподіленим по всій економіці світу, а не влаштувався у великих корпораціях або військових урядах. Простіше кажучи, я волів би, щоб надрозумною став доброзичливий, любить ШІ, а не робот-вбивця, рекламний движок або хедж-фонд ІІ. З такою мотивацією я запускав проект SilgularityNET— щоб використовувати ІЇ та блокчейн разом і створити відкритий ринок, на якому будь-яка людина на планеті міг би використовувати найпотужніший у світі ІЇ у будь-яких цілях. Якщо ОІІ народиться з «економіки свідомостей» такого характеру, найімовірніше, він буде мати відповідне етичне та інклюзивна мислення.

Ми заходимо на невідому територію, не тільки інтелектуально і технологічно, але й соціально і філософськи. Давайте зробимо все можливе, щоб наступний етап нашого колективного подорожі протікав мудро і кооперативно, а також розумно і цікаво.

Добавить комментарий