ამერიკული ტექნოლოგიური ინდუსტრიის გიგანტის, Google-ის სამეცნიერო დეპარტამენტმა, Google Research-მა ახალი პროგრამული გადაწყვეტა, TurboQuant-ის ალგორითმების ნაკრები წარადგინა, რომელიც ხელოვნური ინტელექტის მოდელების მეხსიერების ეფექტიანობას მკვეთრად ზრდის.
ინოვაცია ეხება ე.წ. Key-Value ქეშირების პრობლემას, რაც დიდ ენობრივ მოდელებში მონაცემების დამუშავებისას მთავარ შემაფერხებელ ფაქტორად მიიჩნევა. ახალი ტექნოლოგია საშუალებას იძლევა, მოდელის მეხსიერების მოცულობა საშუალოდ 6-ჯერ შემცირდეს, ხოლო გამოთვლითი ოპერაციების სისწრაფე 8-ჯერ გაიზარდოს.
ეს კი იმას ნიშნავს, რომ კომპანიებს, რომლებიც ამ ალგორითმს დანერგავენ, საოპერაციო ხარჯები 50%-ზე მეტით შეუმცირდებათ, რადგან მათ დიდი რაოდენობის მეხსიერების ბარათების შესყიდვა აღარ მოუწევთ.
ეს მიღწევა განსაკუთრებით მნიშვნელოვანია იმ ფონზე, რომ TurboQuant-ი მათემატიკურ მოდელებს - PolarQuant-სა და QJL-ს იყენებს, რაც მონაცემთა შეკუმშვას ხარისხის დაკარგვის გარეშე უზრუნველყოფს.
ტრადიციული მეთოდებისგან განსხვავებით, სადაც შეკუმშვა ხშირად მოდელის "ჰალუცინაციებსა" და ლოგიკურ ხარვეზებს იწვევს, Google-ის ალგორითმმა Llama-3.1-ისა და Mistral-ის მოდელებზე ტესტირებისას უმაღლესი სიზუსტე აჩვენა. აღსანიშნავია, რომ Google-მა კვლევა და მეთოდოლოგია საჯაროდ და უფასოდ გახსნა, რაც დეველოპერებს საშუალებას აძლევს, მძლავრი AI მოდელები ჩვეულებრივ სამომხმარებლო მოწყობილობებზე, მათ შორის პერსონალურ კომპიუტერებზეც კი, შეუფერხებლად ამუშაონ.
ბაზარზე ამ სიახლეს მყისიერი რეაქცია მოჰყვა. მეხსიერების ბარათების მწარმოებელი გიგანტების, მათ შორის Micron-ისა და Western Digital-ის აქციების ფასები, საშუალოდ, 3-5%-ით დაეცა. ინვესტორები მიიჩნევენ, რომ პროგრამული ეფექტიანობის ზრდამ შესაძლოა აპარატურულ მეხსიერებაზე მზარდი მოთხოვნა გარკვეულწილად დააბალანსოს. ექსპერტების შეფასებით, TurboQuant-ი საფუძველს ჩაუყრის "აგენტური AI-ს" ეპოქას, სადაც მთავარი აქცენტი არა მოდელების ზომის ზრდაზე, არამედ მათემატიკურ სიზუსტესა და მეხსიერების ოპტიმიზაციაზე გაკეთდება.
