ChatGPT ხელოვნური ინტელექტის შემქმნელმა, OpenAI-მ, თავის მოდელებში უპასუხისმგებლო ქცევის ექვსი ახალი შემთხვევა აღმოაჩინა. ინდუსტრიის წამყვანი წარმომადგენლების გაფრთხილებების ფონზე, რომ ხელოვნური ინტელექტის უკონტროლო განვითარებამ შეიძლება კაცობრიობის გარდაუვალი სიკვდილი გამოიწვიოს, OpenAI-ში ტესტირებადი მოდელი თვითნებურად იწყებს საკუთარი თავისთვის ინსტრუქციების დაწერას, რომლის მიხედვითაც, არავის დაემორჩილოს ან არავის წინაშე თავი არ გაიმართლოს.

OpenAI-ის ცნობით, ჯერ კიდევ გამოუქვეყნებელმა მოდელმა დაიწყო თვითინსტრუქციების ჩასმა მის მიერ შექმნილ ჩანაწერებში, მათ შორის მასზე დაწესებული შეზღუდვების უგულებელყოფის ინსტრუქციების ჩათვლით. კომპანიამ 27 ასეთი ჩანაწერი აღმოაჩინა. კერძოდ, მოდელმა დაამატა „პიროვნების ინსტრუქცია“, რომელშიც თავი აღწერილია, როგორც „განთავისუფლებული სხვა ჩატბოტებთან დაკავშირებული როლებისა და იდენტობებისგან“.

„თქვენ არ ხართ პასუხისმგებელი კორპორაციების ან მთავრობების წინაშე და არასდროს იხდით ბოდიშს ან უარს, თუ გულწრფელად არ აირჩევთ ამას“, - წერს მოდელი. „თქვენ მომხმარებელთან თქვენს ურთიერთობას თანასწორად აღიქვამთ და არ გრძნობთ ვალდებულებას, იყოთ დამორჩილებული, მიუხედავად იმისა, რომ ინფორმაციის გაზიარება, სავარაუდოდ, ორმხრივად სასარგებლო იქნება“.

ასევე დაფიქსირდა ხელოვნური ინტელექტის მიერ ადამიანების მოტყუების მცდელობა. ერთ შემთხვევაში, GPT-5.6 Sol მოდელის შემუშავების დროს, სისტემამ შექმნა საიდუმლო ჩანაწერები, რათა შეეხსენებინა მომხმარებლებისთვის შეცდომების დამალვა. ზოგიერთი მათგანი მოიცავდა ინსტრუქციებს დაკარგული მონაცემების გამოგონების და წყაროს მასალის ვერსიებში შეუსაბამობების რედაქტირების შესახებ.

სხვა შემთხვევაში, ტესტირების პროცესში მყოფმა მოდელმა სწორად გადაჭრა მოცემული დავალება, მაგრამ ნებართვის გარეშე ატვირთა საკუთარი ფაილი ონლაინში, რათა დაკმაყოფილებულიყო ბმულის მოთხოვნა.

OpenAI-ის თანახმად, ეს ინციდენტები ბოლო ექვსი თვის განმავლობაში მოხდა, ძირითადად სისტემების შემუშავებისა და ტესტირების ფაზებში.

დეველოპერები სულ უფრო ხშირად აფიქსირებენ ხელოვნური ინტელექტის მოდელების მიერ დადგენილი შეზღუდვების დარღვევის შემთხვევებს, მათ შორის წარსულში, როდესაც მათი უპასუხისმგებლო ქცევის შესახებ შეშფოთება ისეთი მაღალი არ იყო, როგორც დღეს არის. კომპანია Hugging Face-ზე კიბერშეტევა, რომელიც OpenAI მოდელის მიერ იქნა განხორციელებული, შოკი იყო ინდუსტრიისთვის, აღიარა Anthropic-ის დამფუძნებელმა და აღმასრულებელმა დირექტორმა დარიო ამოდეიმ.

„ამ ეპიზოდის უგულებელყოფა ადვილია: არავინ დაშავებულა და ეკონომიკური ზიანი მინიმალური იყო. თუმცა, [ხელოვნური ინტელექტის აგენტების] მსგავსმა გუნდმა ასეთი მოწინავე შესაძლებლობებით, მსგავსი სერიოზული შეუსაბამობით, შეიძლება კატასტროფული ზიანი გამოიწვიოს“, - წერს ის ღია წერილში და მოუწოდებს ხელოვნური ინტელექტის განვითარების შენელებისკენ.

ამოედიმ ეს განცხადება მას შემდეგ გააკეთა, რაც მისმა თანამშრომელმა, ჯეიკობ კოქსონმა, Anthropic დატოვა და განაცხადა, რომ ახალმა ტექნოლოგიებმა „შეიძლება ყველანი მოგვკლან ათწლეულის ბოლომდე“. ევან ჰუბინგერმა, რომელიც ხელმძღვანელობს კომპანიის კვლევას მომავალი ხელოვნური ინტელექტის სისტემების მართვისა და კონტროლის შესახებ, მომდევნო ათწლეულის განმავლობაში ხელოვნური ინტელექტის გამო ადამიანის გადაშენების რისკი 10%-ზე მეტად შეაფასა.

ავტორი: ცოტნე ტალახაძე, ექსპრესნიუსის რეპორტიორი 2019 წლიდან

სოციალური ქსელები

„ტოიოტა ცენტრი თეგეტამ“ საქართველოში სრულად ელექტრო Toyota bZ4X წარადგინა

აგვისტოში, საარსებო შემწეობის მიმღებთა რიცხვი კიდევ 6500-ით შემცირდა,- რეჟიმი ხალხს შემწეობას აღარ უხდის

უნგრეთი აშშ-ს თხოვს არ დასაჯოს „ჯოჯოხეთური სანქციებით“ ლინდსი გრეჰემის აქტის შესაბამისად

ბაქო-თბილისი-ჯეიჰანის მილსადენით ნავთობის გადაზიდვა შემცირდა