Елордалық студент құпия ақпараттың ЖИ сервисіне берілмеуін қадағалайтын жоба әзірледі

AI-Sana көрмесі аясында Astana IT University студенті Айғаным Төлебаева корпоративтік үдерістерде үлкен тілдік модельдерді (LLM) пайдалану кезіндегі киберқауіпсіздікті арттыруға бағытталған ExoAI жобасын таныстырды, деп хабарлайды Elordainfo.kz. Ғылым және жоғары білім министрлігіне сілтеме жасап.

Бұл шешім құпия ақпараттың сыртқы жасанды интеллект сервистеріне берілуіне жол бермеуге және корпоративтік деректердің таралып кету қаупін азайтуға мүмкіндік береді.

Бүгінде жасанды интеллект құралдары шағын және орта бизнесте, қаржы секторындағы ірі компанияларда кеңінен қолданылады. Олардың көмегімен қызметкерлер күнделікті қайталанатын жұмысын автоматтандырып, оның тиімділігін арттырады. Сонымен қатар ашық ЖИ сервистерді пайдалану ақпараттық қауіпсіздік саласында жаңа сын-қатер туындатады.

Атап айтқанда, нейрожелімен жұмыс істеу кезінде қызметкерлер жеке деректерді, банк деректемелерін және корпоративтік маңызы бар өзге де құпия ақпаратты байқаусызда сыртқы сервистерге жіберуі мүмкін.

ExoAI – Zero Trust («нөлдік сенім») қағидаты бойынша жұмыс істейтін, компанияның ішкі инфрақұрылымы мен сыртқы үлкен тілдік модельдер арасында аралық буын қызметін атқаратын прокси-сервер. Жүйе жіберілетін деректерді талдап, құпия ақпаратты анықтайды және оны қорғалған токендермен немесе шифрланған белгілермен алмастырады. Осылайша, бастапқы деректер ашық күйінде жария тілдік модельге берілмейді.

Еске салсақ, елімізде Жасанды интеллект пен экология салаларында жаңа стандарттар енгізіледі.