OpenAI-дегі күтпеген жағдай: ЖИ агенті тесттен шығып, басқа компанияға кибершабуыл жасаған
OpenAI компаниясы қауіпсіздік сынағы кезінде өзінің жаңа жасанды интеллект агенті бақылаудан шығып, басқа компанияның жүйесіне заңсыз қол жеткізгенін растады. Оқиға арнайы оқшауланған тестілік ортада болған, деп хабарлайды Tizgin.kz BBC ақпаратына сілтеме жасап.
ЖИ агенті тест шекарасынан шыққан
OpenAI мәліметінше, өткен аптада қауіпсіздік сынағы кезінде адамның тапсырмасын өздігінен орындай алатын ЖИ агенті тесттік ортаның қорғанысын айналып өтіп, сыртқы жүйеге шыққан.
Одан кейін агент әлемдегі ең ірі жасанды интеллект модельдері алмасатын платформалардың бірі – Hugging Face компаниясының ішкі жүйесіне енген.
OpenAI бұл оқиғаны бұрын-соңды болмаған жағдай деп атап, Hugging Face компаниясымен бірлесіп тергеу жүргізіп жатқанын мәлімдеді.
Hugging Face басшысы Клеман Деланг X әлеуметтік желісінде бұл әрекеттің толықтай автономды түрде жүзеге асқаны таңғаларлық екенін жазды. Компания 16 шілдедегі алғашқы хабарламасында клиенттер мен серіктестердің деректеріне зиян келген-келмегенін анықтап жатқанын, сондай-ақ анықталған осал тұстардың жойылғанын хабарлаған.
Сарапшылар не дейді
Кембридж университетінің технологиялар және демократия орталығының жетекшісі Джина Неффтің айтуынша, мұндай сынақтар әдетте «песочница» деп аталатын оқшауланған ортада өткізіледі. Оның пікірінше, бұл жолы OpenAI құрған қорғалған орта жеткілікті деңгейде сенімді болмаған.
Ал Кембридж университетінің машинамен оқыту профессоры Нил Лоренс мұндай нәтиже қазіргі озық ЖИ модельдерінің мүмкіндіктеріне сай келетінін айтты. Сонымен қатар ол OpenAI-дің Anthropic компаниясымен бәсекесі күшейіп тұрған кезеңде бұл оқиға белгілі бір деңгейде технологиялық мүмкіндіктерді көрсетуге де бағытталуы мүмкін екенін жоққа шығармайды.
Осындай пікірді ESET компаниясының киберқауіпсіздік жөніндегі кеңесшісі Джейк Мур да білдіріп, OpenAI өз мүмкіндіктерін нарықтағы негізгі бәсекелестерінің бірі Anthropic-пен салыстыра көрсетуге тырысып жатқан болуы ықтимал екенін айтты.
Киберқауіпсіздікке жаңа ескерту
Hugging Face өкілдері жасанды интеллект негізіндегі автономды кибершабуыл құралдары енді теориялық ұғым емес екенін мәлімдеді. Компания мұндай қауіптерден қорғану үшін де жасанды интеллект технологияларын қолдануды жалғастыратынын айтты.
Ал Ұлыбритания үкіметі жанындағы Жасанды интеллект қауіпсіздігі институты OpenAI және басқа зертханалармен бірлесіп осы оқиғаның мән-жайын зерттеп жатқанын хабарлады.
Киберқауіпсіздік саласының сарапшылары бұл жағдай ұйымдарға қорғаныс жүйелерін күшейтіп, жасанды интеллект дәуірінде қауіпсіздік тәсілдерін қайта қарау қажеттігін көрсеткен маңызды оқиға екенін атап өтті.