Заплахата „изкуствен интелект” става все по-реална. За това предупреждават не само изтъкнати учени и предприемачи като Стивън Хокинг и Илон Мъск, но и специалисти по сигурност.
Хайрам Андерсон, експерт от компанията Endgame, демонстрира на хакерската конференция DEF CON как една система за машинно обучение може да бъде научена да разработва злонамерен софтуер. Изкуственият интелект може да превърне легитимен код във вредоносен, като същевременно остава неразпознаваем от антивирусния софтуер.
Как се случва това? Системата за машинно обучение внася малки промени в двоичния код, тества го чрез антивирусния енджин, анализира получените данни и в зависимост от тях прави нови модификации в кода.
Система, създадена от Endgame, е обучавана по този начин в продължение на 15 часа, генерирайки общо 100 хиляди злонамерени образци на софтуер. 16% от тях се оказали невидими за антивирусите.
По думите на Андерсон, подобен подход позволява да бъдат заблудени и самите антивирусните платформи, които се базират на системи за машинно обучение и изкуствен интелект (ИИ).
Някои разработчици на такива антивируси злоупотребяват с дефинициите за ИИ с маркетингова цел, твърдейки, че създават антивируси от следващо поколение. Сега на тези антивируси ще се наложи да се борят с вируси от следващо поколение, казва Андерсон.
„Както виждате, изкуственият интелект е напълно възможно да се използва за злонамерени цели и това е доста мрачно развитие на събитията”, коментира Ксения Шилак, директор продажби в компанията за сигурност SEC Consult.
Използването на ИИ за скриване на вредоносните програми може да издигне надпреварата между авторите на вируси и антивирусните компании на принципно ново ниво, особено ако се прилага автоматизирано усъвършенстване на кода.
Системата на Endgame е изградена на базата на фреймуърк OpenAI, разработен от некомерсиална организация, оглавявана от Илон Мъск. През април миналата година организацията публикува публична бета версия OpenAI Gym – платформа за разработка и сравнение на алгоритми за стимулирано обучение по изкуствен интелект.
Именно на базата на тази платформа Endgame е разработила своя злонамерен изкуствен интелект. Изходният код на софтуера е публикуван в уеб портала GitHub, откъдето е достъпен за използване от всички желаещи.
5 коментара
1337 има пълно право. Така наречения ИИ в последните години е нищо повече от много добре развити програми, които просто оптимизират някакви процеси, като при това правят множество опити на принципа на проба и грешка. Понякога са просто автоматизация на алгоритми с множество настройки, чийто баланс трябва да се спазва.
По принцип ИИ се свързва често с невронни мрежи, които работят по абсолютно различен начин. И тези мрежи, без допълнителен алгоритъм от горния вид, който да ги контролира – просто нищо не могат да свършат като хората.
и моливът може да бъде опасен, важното как и за какво го използваш
Елон Мъск…
моля ви се, значи по описанието на “новината”
ИИ (или програмата) и бива предоставен злонамерен код който тя преработва и тества с антивирусни!? Та къде е изкуствения интелект?
skynet