Astana IT University студенті ЖИ орталығындағы деректер сауықтау жүйесін құрастырды
Жасанды интеллект қолданғандағы қауіпсіздік мәселесі
AI-Sana көрмесінде Astana IT University студенті Айғаным Тулебаева жасанды интеллектті орталықтың үлкен тілдік модельдерін (LLM) пайдалану кезіндегі киберқауіпсіздік проблемасын шешетін ExoAI жобасын ұсынды. Қазіргі уақытта ЖИ құралдары шағын ұйымдарында да, ірі ұйымдарында да кеңінен пайдаланылып келеді.
Сонымен бір мезетте, ашық ЖИ-қызметтерінің арқасында ақпараттық қауіпсіздік салаларында жаңа сын-қатерлер туындап отыр. Қызметкерлер байқаусызда жеке деректерді, банктік ақпаратын және басқа құпия мәліметтерді сыртқы сервистерге беруі мүмкін.
ExoAI шешімінің ұйғарылымы
ExoAI — Zero Trust («нөлдік сенім») принципі бойынша жұмыс істейтін прокси-сервер. Ол компанияның ішкі жүйесі мен сыртқы үлкен тілдік модельдер арасында аралық буын қызметін орындайды.
Жүйе жіберілетін деректерді талдап, құпия ақпаратты анықтап, оларды қорғалған токендермен немесе шифрланған белгілермен алмастырады. Осылайша бастапқы деректер ашық күйінде ЖИ-модельге берілмейді.
Қосымша ұсыныстар
ExoAI жүйесінде күмәнді әрекеттерді және қорғаныс механизмдерін айналып өту ынамдарын анықтайтын хабарлау жүйесі де бар. Бұл компанияларға ықтимал қауіптерге дер кезінде жауап беруге және ЖИ-құралдарын қауіпсіз пайдалану тағдырларын жақсартуға мүмкіндік береді.
Қазақстандық жағдайға сәйкестендіру
Тулебаева айтуынша, жобаның негізгі міндеттерінің бірі — қорғаныс механизмдерін Қазақстанда ішінара қолданылатын корпоративтік деректер форматтарына, бизнес-сәйкестендіру мәліметтеріне және банктік ақпаратына бейімдеу. Мұндай түгендеу шешімді ондық деңгейде пайдалану мүмкіндігін кеңейтеді.
Жоба авторының пікірі
«Бүгінде жасанды интеллект қызметкерлердің күнделікті жұмысының әрбір бөлігіне айналып келеді. Сондықтан оны қауіпсіз пайдалану әрт маңызды. ExoAI компанияларға мәліметтердің құпиялылығын ұстап тұра, үлкен тілдік модельдердің ұтымдарын пайдалануға керек түседі», — деді Тулебаева.
ExoAI жобасы киберқауіпсіздік салаларындағы білімді ЖИ-ді дәл пайдалау мәселесін шешуге және танымды аймақтарында ақыл берсінді енгізудің нақты үлгісін көрсетеді.
Дереккөз: gov.kz
