«Є код? Можна зламати». Хакери перевіряють культову System Shock на міцність

07.04.1948

В цьому році відзначає ювілей System Shock — прародителька культової серії BioShock і одна з ключових ігор в жанрі кіберпанку. Студія Looking Glass створила фантастичну історію про корпоративної жадібності, оскаженілої нейромережі і сміливому хакера, який кинув виклик божевільної машині SHODAN. Скажете, суцільний вимисел? Спробуємо розібратися.

Наші співрозмовники:

  • Олексій Іванов (ім’я змінено на прохання спікера) — фахівець з комп’ютерної безпеки

  • Азат Шамсутдінов — керівник проекту та директор з цифрових технологій платформи Sever.AI.

  • Антоніна Єсакова — лікар-генетик

Наші співрозмовники (зліва направо): Олексій Іванов, Азат Шамсутдінов, Антоніна Єсакова

Хакер

Головний герой першої System Shock — безіменний хакер. Відомо, що родом він з Нової Атланти — людської колонії на супутнику Сатурна. На початку гри персонажа заарештовують співробітники корпорації TriOptimum. Все тому, що Хакеру вдалося отримати доступ до інформації про станції Цитадель. Зломщикові пропонують угоду: свободу і цінний нейроимплант в обмін на обхід захисту SHODAN — штучного інтелекту, керуючого Цитаделлю.

Хакер потрошить сервери TriOptimum поодинці. Наскільки це реалістичний сценарій сьогодні?

Олексій Іванов: Цілком реалістичний, якщо цей сміливець досить наполегливий. Наприклад, компанії Hacking Team і Gamma International зламав один чоловік. Причому він навіть докладно описав, як це вдалося. До того ж не треба забувати, що команда Уоррена Спектора створювала свій шедевр на початку 90-х.

Тоді у багатьох міністерствах і відомствах стояли комп’ютери, які не були розраховані на атаки ззовні. Тому і було дуже багато історій в дусі «школяр порізав Пентагон».

«Ти нас зламав, але ми будемо з тобою співпрацювати» — сценарій, популярний і в іграх, і в кіно. Але правдоподібний він? Вам відомі такі випадки?

Олексій: Випадки є, але вони вкрай рідкісні. З міркувань безпеки. Часто люди, які, наприклад, займаються зломом заради крадіжки грошей, самі по собі досить дивні. Довіряти їм відповідальну роботу — дуже ризиковано.

З іншого боку, у багатьох компаній зараз є програми bug bounty: вони готові платити гроші за інформацію про уразливість в їх системах. На роботу не факт що візьмуть, але грошей можна заробити пристойно. Кілька років тому, до речі, Microsoft ощасливила так п’ятирічного хлопчика, який випадково знайшов спосіб обходити вікову захист Xbox Live.

 

Хакер не хоче публічності, тому відмовляється від престижної посади. Завжди при роботі на корпорацію доводиться виходити з тіні?

Олексій: Змушувати світити обличчям навряд чи будуть. Зараз IT — сфера популярна, тут вистачає і інтровертів, і товариських людей. Так що в кібербезпеки є як масовики-витівники, які активно виступають на конференціях, так і ті, хто сидять десь у себе і тихенько хакают.

Якими засобами Хакер міг би скористатися в наш час, щоб зберегти анонімність?

Олексій: Таких способів безліч: TOR, різні VPN, проксі. Вихід в мережу через зламані системи інших користувачів і організацій. Оплата всього биткоинами. Купівля биткоинов в темному підворітті, перед виходом на вулицю обов’язково надіти темні окуляри і чорний худі!

 

Повністю піти з радарів герою System Shock не вдалося: він все-таки прославився. Багато сьогодні шансів стати знаменитим у співробітників інформаційної безпеки (ІБ)?

Олексій: Широка публіка знає мало прізвищ. Але в самому середовищі ІБ досить багато відомих особистостей. Наприклад, Маркус Хитчинс, який зареєстрував killswitch-домен для вірусу wannacry, тим самим зупинивши епідемію.

Правда, зараз його чекає суд за нібито причетність до розробки і продажу банківського трояна Kronos для Android.

SHODAN

SHODAN — саморазвивающийся штучний інтелект і головний антагоніст дилогії System Shock. Корпорація TriOptimum розробила цей ІЇ як полуразумную самодостатню мережу передачі даних. Її завдання — виконувати рутинні обов’язки на борту космічних станцій. Для цього ШІ забезпечили складною системою логічних і моральних програм і особистістю, яка може прийняти вірне рішення в екстреній ситуації. ЗА дозволяло SHODAN захищати саму себе. Хакер зламав розумну мережа, видаливши її етичні обмежувачі. Після цього програма почала перехоплювати повідомлення з Землі, захопила управління системами Цитаделі, роботами і захистом.

Спочатку у SHODAN були моральні обмежувачі. Є в сучасних комп’ютерів або нейромереж щось подібне?

Азат Шамсутдінов: Сьогодні схожої системи цінностей точно немає. Все залежить від творців: чому навчать програму, так вона і буде надходити згодом.

Якщо вибірка виявиться однобокою або автор спочатку (свідомо чи ні) закладе своє упереджене ставлення, то цього ж варто очікувати від ІІ.

Нещодавно Amazon звинуватили у розробці сексистської алгоритму штучного інтелекту для пошуку співробітників: нейромережа частіше вибирала кандидатів-чоловіків. Виявилося, у програму вклали всі надіслані за 10 років резюме. І велика частина їх приходила від чоловіків. Вибірка була сильно незбалансованою, що позначилося на результаті — система часто ігнорувала кандидаток. Це досить типова, але при цьому показова помилка, як ненавмисно можна навчити нейромережа робити неправильні з загальнолюдської точки зору вчинки.

Чи є сьогодні програми, схожі на SHODAN? Можливо, системи управління фабриками або космічною станцією.

Олексій: З подобою ІІ? Навряд чи. Системи управління цілком є — різні АСУ ТП, і вони дозволяють керувати технологічними процесами на заводах. Однак це досить консервативна область — там головне, щоб все працювало. Тому в сфері АСУ ТП так багато проблем з безпекою — про це просто ніхто не замислювався. А ось ближче всього до інтелектуальних комп’ютерних систем будуть розумні автомобілі.

Азат: Існують системи, які автоматизують окремі виробництва. Так функціонують завод екскаваторів Hitachi у Тверській області і Челябінський трубопрокатний завод. Про самодостатнє розумному заводі поки тільки йдуть розмови. Наприклад, Microsoft два роки тому заявляла про наміри побудувати щось схоже. Почекаємо новин.

Повністю автоматизоване виробництво контролерів Steam від Valve. Люди потрібні тільки для того, щоб наглядати за роботами.

Хакеру в System Shock вдалося обійти захист ІІ і відключити етику. Чи є способи уникнути цього? Або повністю захищених програм не існує?

Азат: Якщо є код, його можна і зламати. Не буває захищених на 100% програм, і до цього потрібно бути готовим. Багато чого залежить від ціни того, що стоїть за хаком. Якщо ціна злому більше ціни результату, то очевидно, що сенс злочину втрачається. Тому чим цінніша/небезпечна/важлива програма, тим сильнішими повинні бути заходи захисту.

 

Чи є якийсь звід правил, якими керуються вчені, які працюють сьогодні з ІІ?

Азат: Єдиного зводу правил точно немає. Що закладе конструктор, то і стане керівним принципом у електронного розуму. Пояснюється це просто — всі проекти на даний момент не настільки масштабні. Поки немає необхідності закладати глобальні цінності в дусі «вбивати — злочин, що всі люди — рівні».

Єдиний виняток — ситуація з Tesla. Як навчають машини Ілона Маска? Створюється віртуальний місто, туди підвантажується цифровий мозок Tesla і починає навчатися. Моделюються мільярди різних ситуацій. У тому числі моменти, в яких перед об’єктом «людина» треба пригальмовувати або зупинятися. Коли Tesla навчиться добре справлятися з ситуаціями у віртуальному мегаполісі, її почнуть тестувати в реальному середовищі.

Фактично, формується встановлення того, як можна робити. Як у вихованні дитини задають принципи поведінки, аналогічно відбувається і в навчанні ІІ.

Мережа, яка шаленіє і нищить людей, — поширений сюжет у науковій фантастиці. Навіть Ілон Маск і Стівен Хокінг висловлювали побоювання на цю тему. Як думаєте, страхи виправдані?

Азат: Почасти, думаю, страхи виправдані, особливо страхи Маска. Все-таки він точно повинен уявляти, які наслідки можуть бути, якщо «Тесли» збунтуються.

Однак потрібно пам’ятати, що нейромережа — це програма, що виконує рівно те, що у неї заклав кодер. Щоб ІІ зійшов з розуму, алгоритм повинен мати не просто інтелект, у нього повинен бути розум. А це більш широке і складне поняття, це взагалі інша історія.

Комп’ютери та нейромережі вже обіграють нас у шахи, го, StarCraft і Super Mario Bros. Може, пора заборонити відповідні дослідження, щоб машини нас не поневолили?

Азат: Уникати точно не варто. Все, що ми робимо в цьому напрямку, робиться виключно для полегшення життя. Творці ШІ завжди пам’ятають про потенційні наслідки, тому навчають мережі за принципом «якщо закласти, що так не можна робити, то машина і не буде це робити».

Якщо цифровий мозок порушує правила гри в го, значить, машині не сказали, що так не можна.

Дискусії про етику в еру нейромереж ведуться дуже активно. Ймовірно, незабаром громадськість винесе вердикт з цього питання.

Технології

Мультифункціональний нейроинтерфейс

В System Shock нейроинтерфейс пов’язаний з військовим киберимплантом, яким Хакер обзаводиться вже на початку гри. Ця система виводить на дисплей важливу інформацію: карту, стан здоров’я, стан навколишнього середовища і запас енергії в скафандрі.

Нейроинтерфейс отримує інформацію з організму Хакера — поранений, втомився і так далі. Наскільки ми далекі від схожого сценарію?

Антоніна Єсакова: Почнемо з того, що такий пристрій вже є, — це наш мозок. Він як раз постійно збирає інформацію про стан організму і подає сигнал. Ви ж відчуваєте почуття голоду, спраги, втоми? Це мозок зібрав інформацію від інших органів і тканин і передає її вам.

А про пошкодження — навіть зовсім незначні — повідомлять нервові закінчення. Причому дуже швидко.

Така інформація необхідна в грі, а от у житті — надлишкова. Що було б корисно в реальному житті? Компактне переносна пристрій, яке повідомляло б про зміну навколишнього середовища: наявності радіації або отруйних речовин. Уявити таку технологію в имплантируемом чіпі важко. Але якщо фантазувати, то було б дуже корисно, якби пристрій відстежувало білкові сигнали клітин, що говорять про їх пошкодженні або руйнуванні.

Героя System Shock після установки імпланта вводять лікувальну кому на півроку, щоб організм адаптувався. Сучасна медицина займається подібним?

Антоніна: Звичайно, сам імплант — фантастика, так і кома — стан, що свідчить про важкому ушкодженні мозку. Медикаментозна кома, в яку занурюють важких пацієнтів, — це, швидше, глибока седація. Логічніше припустити керовану гібернацію чи анабіоз, але у людини таких станів не спостерігається. Але в медицині застосовується терапевтична гіпотермія. У цьому випадку температуру тіла спеціально знижують, щоб не допустити смерть мозку під час операції із-за недостатнього кровопостачання. Правда, не зрозуміло, як цей прилад буде з’єднуватися безпосередньо з нейронами людини. Але тут і працює фантастичне припущення.

Стимулятор витривалості, універсальний антидот та інші пластирі

Пластирі, прикріплюються безпосередньо до шкіри. Активна речовина потрапляє в організм шляхом осмосу. На час дії пластиру персонаж отримує певні перкі: збільшення витривалості, інтелекту, сили та інших характеристик (в залежності від типу препарату).

 

Наскільки ефективна така технологія? Чи практикують у сучасній медицині щось схоже?

Антоніна: Трансдермальні системи — давно не рідкість у сучасному світі. Пластирі на зразок тих, що застосовуються в System Shock, існують і вважаються ефективними способами прийому деяких препаратів. Досить згадати нікотинові пластирі: їх використовують, щоб позбутися згубної звички куріння. У такій формі випускають гормони і анальгетики. Тому самі пластирі — не фантастика, а реальність. Але як з їх допомогою поліпшити витривалість або інтелект, та ще й моментально, наука ще не знає.

Хіба що виготовити пластир з мельдонием — але ефективність цього препарату під сумнівом.

Теоретично за силу і витривалість відповідає тестостерон — і пластирі з ним існують. Правда, у такому дозуванні на силу він ніяк не вплине, такі засоби служать для боротьби з еректильною дисфункцією. Є препарати на зразок модафинила — їх часто прописують для підвищення працездатності мозку. Але зробити дурня академіка вони, звичайно, не можуть.

Ми звикли посміхатися при вигляді того, як у старих фільмах і іграх зображають майбутнє: неонові вогні і блискучий хром мало схожі на те, що ми спостерігаємо сьогодні. Але якщо відволіктися від зовнішніх ознак, стає зрозуміло: Looking Glass Studios змогла заглянути в майбутнє з лякаючою точністю. Можливо, саме нейромережа, схожу на SHODAN, нам і слід побоюватися в майбутньому.

Розмовляв Павло Алексєєв

Добавить комментарий