ტექნოლოგიური სტარტაპის, Anthropic-ის აღმასრულებელმა დირექტორმა, დარიო ამოდეიმ ხელოვნური ინტელექტის ინდუსტრიას ტემპის შენელებისკენ მოუწოდა და სამეტაპიანი გეგმა წარადგინა.
Claude-ის შემქმნელი კომპანიის მმართველმა ტექსტში ისაუბრა იმის შესახებ, რომ არსებული მოცემულობით AI უკვე გადასულია განვითარების იმ ეტაპზე, როცა საჭიროა რეალური მარეგულირებელი ჩარჩოების შემოღება და AI-კომპანიებს შორის ლოკალური თუ გლობალური თანამშრომლობის წამოწყება, რათა ხელოვნურმა ინტელექტმა მსოფლიოს არ შეუქმნას ეგზისტენციალური საფრთხე.
გამოქვეყნებულ წერილში ამოდეიმ დაწერა, რომ ის მზად არის, დამოუკიდებელ შემფასებლებს Claude-ის სისტემებზე მუდმივი წვდომა ცალმხრივად შესთავაზოს. მისი შეფასებით, ეს ნაბიჯი ხელს შეუწყობს უსაფრთხოების ზომების დაცვის გარე აქტორების მიერ შემოწმებას, ინციდენტების აღრიცხვას და მოდელების წვრთნის პროცესის შეფასებას.
დარიო ამოდეიმ საკუთარ წერილში ისიც აღნიშნა, რომ რისკების სრულად ასარიდებლად მხოლოდ პრევენციაზე მუშაობა საკმარისი არ არის. მისი შეფასებით, უსაფრთხოების მექანიზმების დროულად შესაქმნელად შესაძლებლობების ზრდის ტემპის შეზღუდვა აუცილებელია.
დარიო ამოდეიმ საზოგადოებას წარუდგინა ახალი სტრატეგია, რომელიც სამ ძირითად კომპონენტს აერთიანებს. პირველი ეტაპი ტექნოლოგიის დაბალანსებული ტემპით განვითარებას გულისხმობს. როგორც ის მიიჩნევს, ამ პროცესში კომპანიებმა მოდელების სათანადო დაცვა უნდა მოასწრონ, გარე შემფასებლებმა კი მათი უსაფრთხოება უნდა დაადასტურონ.
მეორე კომპონენტი ინდუსტრიულ კოორდინაციას მოითხოვს, რაც გულისხმობს ისეთი AI კომპანიების თანამშრომლობას, როგორებიც კონკურენტები - Google-ი SpaceX-ი თუ OpenAI არიან.
ხოლო მესამე საფეხური გლობალური თანამშრომლობის მიღწევას ითვალისწინებს. ავტორის განმარტებით, ამ ნაბიჯების მკაცრი თანმიმდევრობით გადადგმა სავალდებულო არ არის, თუმცა ზოგიერთი მიზნის მიღწევა გაცილებით დიდ სირთულესთან არის დაკავშირებული. ამოდეიმ ხაზგასმით აღნიშნა, რომ შესაძლებლობების ზრდის შენელების პირობებშიც პროგრესი სწრაფი დარჩება. მოგებული დრო კი საზოგადოებამ გონივრულად უნდა გამოიყენოს და ახალი ეპოქისთვის მოემზადოს.
ამასთან, ხელმძღვანელმა მკაცრი ზომების მიღების აუცილებლობა ტექნოლოგიური პროცესების მკვეთრი აჩქარებით ახსნა. მისი განცხადებით, ზაფხულის პერიოდში სისტემების რეკურსიული თვითგაუმჯობესების ტემპი საგრძნობლად გაიზარდა. ამოდეი შიშობს, რომ კონტროლის გარეშე დარჩენილმა მსგავსმა პროცესმა შესაძლოა ადამიანის მიერ AI-ს მართვის შესაძლებლობა გააქროს და კაცობრიობას სერიოზული საფრთხე შეუქმნას.
ამოდეი წერს იმის შესახებაც, რომ კომერციული ინტერესებით განპირობებული AI რბოლა ამ საფრთხეებს კიდევ უფრო რეალურს ხდის. ტექ-ლიდერმა Hugging Face-ის პლატფორმაზე OpenAI-ის აგენტების თავდასხმის შემთხვევა გაიხსენა და აღნიშნა, რომ მაშინდელი მცირე ეკონომიკური გავლენა არ უნდა იქნეს აღქმული ჩვეულებრივ მოვლენად და რომ მსგავსი შეტევის მასშტაბურად განხორციელების შემთხვევაში მომხდარს კაცობრიობაზე უფრო მძლავრი და კატასტროფული შედეგების მოტანა შეუძლია.
