Алматыда өткен Freedom Talk кездесуінде жасанды интеллектіні дамытуға қажетті технологиялық инфрақұрылым, деректер орталықтарының мүмкіндігі және жаңа буын серверлеріне қойылатын талаптар талқыланды. Мамандардың айтуынша, Қазақстандағы қолданыстағы дата-орталықтар заманауи AI-серверлердің қуат тұтынуына толық бейімделмеген, деп хабарлайды ult.kz.
Алматыда Freedom Talk пікірталас клубының «Freedom AI: Inside Infrastructure» атты кездесуі өтті. Жиында жасанды интеллектіні дамыту, оны қолданысқа енгізуге қажетті технологиялық инфрақұрылым, деректерді сақтау орталықтарының болашағы және технологиялық әріптестік мәселелері сөз болды.
Кездесуге Freedom Holding Corp. компаниясының технологиялар жөніндегі бас директоры әрі Freedom AI бас атқарушы директоры Ренат Туканов, Freedom Cloud директоры Темірлан Зиналабдин және Freedom Holding Corp. технологиялық даму басқармасының әзірлеу жөніндегі директоры Евгений Самойленко қатысты.
Спикерлер жасанды интеллект саласындағы өзгерістерге қатысты тәжірибесімен бөлісіп, жаңа технологияларды енгізуде инфрақұрылымның маңызына тоқталды.
Freedom Cloud директоры Темірлан Зиналабдиннің айтуынша, жасанды интеллектіні кеңінен енгізу есептеу ресурстарына деген сұранысты күрт арттырған. Компаниялар цифрлық сервистер мен AI-шешімдерді неғұрлым көп пайдаланған сайын, оларға қажетті инфрақұрылымдық қуат та көбейіп келеді.
«Біз есептеу көлемінің артқанын байқап отырмыз. Клиенттер түрлі платформалар мен сервистерді пайдалану арқылы тиімділігін арттырған сайын, тұтынатын ресурстары да көбейеді. Сондықтан инфрақұрылымның өсу қарқыны сұраныстың артуымен сәйкес келуін мұқият қадағалауымыз керек», – деді Темірлан Зиналабдин.
Оның сөзінше, есептеу қуатына сұраныс жоғары болғанымен, ол біркелкі емес. Сонымен қатар жаңа серверлерді сатып алу инфрақұрылымдық мәселені толық шешпейді. Электр қуаты, жер телімі, байланыс арналары мен дата-орталықтардың техникалық мүмкіндігі алдын ала дайын болуы қажет.
«Егер бүгіннен бастап инфрақұрылымның келесі буынына – электр қуатына, жерге, байланыс арналарына және олардың өзара байланысына қатысты дайындық жасамасақ, болашақта үлкен мүмкіндіктен айырылып қалуымыз мүмкін», – деп атап өтті Freedom Cloud директоры.
Маман деректерді сақтау мен өңдеуге қойылатын талаптардың да күшейіп келе жатқанын айтты. Әсіресе мемлекеттік және квазимемлекеттік сектор өкілдері үшін ақпараттың қайда сақталатыны ғана емес, оның қалай өңделетіні, операцияларды кім тіркейтіні және жүйенің заңнама талаптарына сәйкестігі маңызды болып отыр.
Бұл мәселені Freedom Holding Corp. технологиялар жөніндегі бас директоры әрі Freedom AI бас атқарушы директоры Ренат Туканов жалғастырды. Оның айтуынша, жасанды интеллектіге арналған жабдықтарды қолданыстағы дата-орталықтарға қосымша дайындықсыз орнату мүмкін емес.
«AI-инфрақұрылымы туралы айтқанда, қарапайым тілмен түсіндірсек, бұл – арнайы чиптермен жабдықталған көптеген сервер. Осындай бір сервердің құны бірнеше жүз мың долларға жетуі мүмкін. Шамамен 300 мың доллар тұрады», – деді Ренат Туканов.
Оның сөзінше, мәселе жабдықтың қымбаттығында ғана емес. AI-серверлер өте көп есептеу операциясын орындайтындықтан, қатты қызады. Сондықтан оларды салқындатуға қуатты жүйе мен көп мөлшерде электр энергиясы қажет.
«Мұндай серверлерді қолданыстағы дата-орталықтарға жай ғана әкеліп орната салуға болмайды. Олар өте көп операция өңдейді, қатты қызады, сондықтан салқындату жүйесі мен электр энергиясын көп қажет етеді», – деп түсіндірді ол.
Ренат Тукановтың мәліметінше, Қазақстандағы көптеген дата-орталықтар бастапқыда бір серверлік тірекке (стойкаға) 5–10 кВт, ең көбі 15 кВт жүктеме түседі деген есеппен жобаланған. Ал қазір осындай қуатты бір ғана заманауи AI-сервер тұтынуы мүмкін.
Демек, жасанды интеллектіні дамыту бағдарламалық шешімдер мен есептеу жабдықтарына инвестиция салумен шектелмейді. Энергетикалық, телекоммуникациялық және деректер орталықтарының инфрақұрылымын қатар жаңғырту қажет.
Кездесуде жасанды интеллектіге арналған серверлерді орналастыру мәселесі де кеңінен талқыланды. Темірлан Зиналабдиннің айтуынша, есептеу инфрақұрылымына қойылатын талаптар соңғы жылдары түбегейлі өзгерген. Бұрын бір серверлік тірекке 5–15 кВт қуат жеткілікті болса, қазір сұйықтықпен салқындатылатын заманауи жабдықтарға әлдеқайда жоғары қуат қажет.
«Сұйықтықпен салқындатылатын GB300 бір серверлік тірекке шамамен 130 кВт қуат тұтынады. Қазақстанда мұндай жүктемеге есептелген тіректер жоқ. Яғни қазіргі дата-орталыққа бұл серверлерді жай ғана орналастыру мүмкін емес. Серверлерді сатып алумен қатар жаңа дата-орталықтар да салу қажет», – деді ол.
Маманның айтуынша, жаңа буын деректер орталықтары заманауи есептеу жүйелерінің талаптарына сай жобалануы керек.
«Бұрын шартты түрде әрқайсысы 15 кВт қуат тұтынатын мың серверлік тірекке арнап орталық салатынбыз. Қазір тәсіл өзгерді. NVIDIA компаниясының референстік архитектурасында бір тірекке қанша электр энергиясы қажет болатыны, салқындату жүйесіне және басқа да жабдықтарға қойылатын талаптар алдын ала көрсетіледі. Дата-орталықтың өзі осы архитектураға сәйкес жобаланады», – деп түсіндірді Freedom Cloud директоры.
Ол жабдықтардың энергия тұтыну көлемі алдағы уақытта да арта беретінін айтты.
«Қазір бір серверлік тірек 130 кВт қуат тұтынса, NVIDIA-ның келесі буыны шамамен 230 кВт қажет етеді. Ал одан кейінгі буында бұл көрсеткіш бұдан да жоғары болуы мүмкін. Біз 5 кВт-тан 230 кВт-қа дейінгі көрсеткішке өте қысқа уақытта жеттік», – деді Темірлан Зиналабдин.
Оның айтуынша, мұндай өзгеріс электрмен жабдықтау жүйесінен бастап, салқындату жабдықтарына дейінгі бүкіл инфрақұрылымды қайта қарауды талап етеді.
«Чиптерді әкелу керек дегенде, оның артында үлкен жұмыс тұрғанын түсіну қажет. Алдымен дата-орталық салу, электр қуаты мен салқындату жүйесін дайындау керек. Содан кейін ғана жабдықты жеткізіп, қажетті рұқсаттарды алып, қаржы мәселесін шешуге болады. Мұнда миллиондаған доллар туралы сөз болып отыр», – деді ол.
Маман ірі жасанды интеллект модельдерін іске қосу үшін неге бірден көп сервер қажет болатынын да түсіндірді. Қазіргі модельдерде жүздеген миллиард, тіпті триллиондаған параметр болуы мүмкін. Оларды өңдеу үшін үлкен көлемдегі жедел жад пен есептеу қуаты қажет. Мұндай міндетті бір қарапайым сервердің көмегімен орындау мүмкін емес.
Темірлан Зиналабдиннің пікірінше, бүгінде AI-инфрақұрылымын дамытуды тежейтін факторлардың бірі – чиптердің қолжетімділігі ғана емес, оларды орналастыруға лайықты дата-орталықтардың тапшылығы.
«Қазір тапшылықтың бір себебі – бұл серверлерді қоятын орынның болмауы. Сондықтан біз осындай жабдықтарды сұйықтықпен салқындату жүйесі арқылы орналастыруға мүмкіндік беретін жаңа буын дата-орталығын салып жатырмыз», – деді ол.
Маманның сөзінше, жаңа есептеу жүйелерін салқындату үшін дәстүрлі ауа жүйелері жеткіліксіз.
«Ауа арқылы салқындату физикалық тұрғыдан мұндай жүктемені көтере алмайды. Өйткені бөлінетін жылу көлемі соншалық, кәдімгі дата-орталықтың салқындату жүйесі онымен күресе алмайды», – деп түйіндеді Темірлан Зиналабдин.
