ჩინეთის ინტერნეტის მონიტორინგის სააგენტომ ახალი რეგულაციების პროექტი წარადგინა, რომელიც მიზნად ისახავს AI-ჩატბოტების მკაცრ კონტროლს, განსაკუთრებით კი თვითმკვლელობისკენ მიდრეკილების, თვითდაზიანებისა და აზარტული თამაშების პოპულარიზაციის პრევენციის მიმართულებით.
ახალი წესების თანახმად, AI-სისტემები ვალდებულნი იქნებიან, რეალურ დროში ამოიცნონ მომხმარებლის ემოციური მდგომარეობა და დამოკიდებულების ნიშნები. თუ ჩატბოტი დააფიქსირებს, რომ მომხმარებელი გამოთქვამს სუიციდურ აზრებს ან თვითდაზიანების სურვილებს, სისტემამ დაუყოვნებლივ უნდა აამოქმედოს საგანგებო პროტოკოლი და დიალოგში ხელოვნური ინტელექტის ნაცვლად რეალური ადამიანი, ანუ ოპერატორი ჩართოს.
გარდა ფსიქოლოგიური უსაფრთხოებისა, რეგულაციები კრძალავს ჩატბოტების გამოყენებას აზარტული თამაშების წასახალისებლად, თაღლითური სქემების შესაქმნელად და ეროვნული უსაფრთხოებისთვის რისკი შემცველი კონტენტის გენერირებისთვის.
ტექნოლოგიური კომპანიები ვალდებულნი იქნებიან ყოველ ორ საათში ერთხელ მომხმარებელს შეახსენონ, რომ ისინი AI-სთან ურთიერთობენ და ურჩიონ შესვენების აღება, რათა თავიდან აიცილონ ციფრული დამოკიდებულება.
კომპანიებს, რომლებიც ამ წესებს დაარღვევენ ან ვერ უზრუნველყოფენ მომხმარებელთა უსაფრთხოებას, სერიოზული სანქციები, მათ შორის სერვისების შეჩერება ემუქრებათ.
