რობოტული პროგრესის საშიშროება მართალია თუ მითი?

2024 ავტორი: Seth Attwood | [email protected]. ბოლოს შეცვლილი: 2023-12-16 16:09

როცა ვამბობთ, რომ რობოტები არ ჩაანაცვლებენ ადამიანებს, რადგან მათში არაფერია ადამიანური, საერთოდ არ ვგულისხმობთ ადამიანის გამორჩეულ უნარს შექმნას ან ალოგიკურად იმოქმედოს. ოდესმე რობოტებიც შეძლებენ ამას. მაგრამ მათი შიში უბრალოდ უაზროა. რატომ - განმარტავს ანდრეი სებრანტი, Yandex-ის სტრატეგიული მარკეტინგის დირექტორი.

როგორ გახდა კალის ვუდმენი ტერმინატორი

დიდმა მწერალმა არტურ კლარკმა ჩამოაყალიბა სამი კანონი, რომელთაგან ერთი წერია: „ნებისმიერი საკმარისად განვითარებული ტექნოლოგია არ განსხვავდება მაგიისგან“. ეს ფორმულირება ზუსტად აღწერს ჩვენს დამოკიდებულებას მაღალი ტექნოლოგიების მიმართ. მაგრამ მედიის ეპოქაში, ტელევიზიით და ფეისბუქით, უფრო და უფრო რთული ხდება ჯადოქარი.

საკმაოდ ხელოვნური ინტელექტის მაგალითია Tin Woodman, რომელთანაც ელი (ან დოროთი) მეგობრობდა და ტკბილი საუბრები ჰქონდა. რა მომენტში და რატომ გადაიქცა ის მოულოდნელად ტერმინატორად? ეს წმინდა მედია ამბავია: შიში კარგად იყიდება - იმდენად, რომ რობოტებთან დაკავშირებული საკითხი ლექციის სათაურში უნდა იყოს ჩასმული.

და ეს ნამდვილად ასახავს იმას, რაც ხდება საზოგადოების გონებაში. ცოტა ხნის წინ, HSE-მ ჩაატარა გამოკითხვა, რომელიც აჩვენებს, რომ რაც უფრო დიდია რობოტის სუბიექტურობა, მით უფრო მეტად ეშინიათ, რომ ის, როგორც სუბიექტი, რაიმე ცუდს მოუტანს მათ. როდესაც რობოტი მხოლოდ საოჯახო საქმეებს აკეთებს ან მაღაზიიდან საქონელს მოაქვს, ამის არავის ეშინია. მაგრამ როდესაც საქმე ეხება ექთნებს, მედიკოსებს, მასწავლებლებს და თვითმართველ მანქანებს, ადამიანების უმეტესობა ამტკიცებს, რომ ისინი უკიდურესად უხერხულნი იქნებიან თავიანთი გარემოთი. იმავდროულად, ერთი მილიონი კილომეტრის გავლილი ავარიების სტატისტიკა აჩვენებს, რომ დრონები ნაკლებად ხვდებიან ავტოავარიაში. რა თქმა უნდა, სულ ერთია, ხალხი ავარიაში მოხვდება, მაგრამ ისინი ნაკლებად იღუპებიან - მილიონნახევრის ნაცვლად 300 ათასი ადამიანი. და მილიონი იცოცხლებს, რადგან მძღოლი მთვრალი კი არა, არასრულყოფილი ავტოპილოტი იყო.

რატომ არ უნდა მოითხოვოთ ახსნა რობოტებისგან

ნობელის პრემიის ლაურეატი ფიზიკაში რიჩარდ ფეინმანმა თქვა, რომ არცერთ ფიზიკოსს არ ესმის კვანტური ფიზიკა. სამწუხაროდ თუ საბედნიეროდ, დღეს ბევრი სხვა სფეროა, სადაც რაღაც ხდება, რასაც ადამიანი ვერ ხსნის.

რობოტებისგან ინტერპრეტაციის მოთხოვნა (რატომ მიიღეს ასეთი გადაწყვეტილება, რატომ შეანელა მანქანამ და ა.შ.) აზრი არ აქვს. მეტიც, ჩვენს ისტორიას თუ გადახედავთ, სრულიად ალოგიკურია.

მაგალითად, აცეტილსალიცილის მჟავა, რომელიც სინთეზირებულია 1853 წელს და რეგისტრირებულია ასპირინის სავაჭრო ნიშნით მე-19 საუკუნის ბოლოს, დღეს მოიხმარება უზარმაზარი რაოდენობით - წელიწადში დაახლოებით 120 მილიარდი ტაბლეტი. თუმცა, მისი მოქმედება, რომელიც დაკავშირებულია, მაგალითად, გულის დაავადებების დროს გამოყენებასთან, მეტ-ნაკლებად ახსნილი იქნა მხოლოდ 70 წლის შემდეგ, რაც დაიწყო მისი ფართო გამოყენება მედიცინაში.

თანამედროვე ფარმაკოლოგები ამბობენ, რომ არავინ იცის, როგორ მუშაობს დახვეწილი თანამედროვე მედიკამენტები სერიოზული დაავადებებისთვის. მაინტერესებს რამდენი ადამიანი, ვისაც ეშინია თვითმართველ მანქანაში ჩაჯდომის, უარს იტყვის იმ წამლით მკურნალობაზე, რომელიც ზოგავს შემთხვევათა 90%-ში, მაგრამ მისი მოქმედების მექანიზმების შესახებ თითქმის არაფერი ვიცით?

ასე რომ, ყოველდღიურ ცხოვრებაშიც კი არ გვესმის ყველაფერი, რაც ჩვენს ირგვლივ ხდება. და უკიდურესად გულუბრყვილოა რობოტებისგან ახსნას მათი ქმედებები, სანამ ფართოდ განახორციელებენ მანქანურ სწავლებას. სანამ ჩვენ ვცდილობთ მივაღწიოთ ამას ამჟამინდელი ალგორითმებიდან, კვანტური კომპიუტერები გამოვა და გაგების იმედი საერთოდ არ იქნება. ამიტომ, უმჯობესია ისწავლოთ იმის მიღება, რისი გაგებაც არ შეგიძლიათ.ეს არ არის პასუხი კითხვაზე, რას დაგვიშავებენ რობოტები. ეს არის პასუხი კითხვაზე, თუ როგორ არ დახარჯოთ ყველაფერი, რასაც გამოიმუშავებთ ფსიქოანალიტიკოსებზე, თუ თქვენს გვერდით რობოტები არიან.

როგორ შევქმნათ ხელოვნური ინტელექტით

შემდეგი ისტორია რობოტებთან თანაარსებობის შესახებ ეძღვნება იდეას, რომლის გაგებაც ნებისმიერ შემოქმედებით ადამიანს შეუძლია - რამდენად რთულია იპოვოთ ადამიანი, ვისთან ერთადაც კარგი იქნება ერთად შექმნა. ცნობილი რუსი მხატვარი და ხელოვნების თეორეტიკოსი დიმიტრი ბულატოვი ამას უფრო მკაცრი ფორმით აყალიბებს: „ახალი ნორმა ასეთია: თუ გვინდა სამყარო ხელოვნებით დავაბინძუროთ, ჩვენ უნდა დავასრულოთ ჩვენი ცილოვანი შოვინიზმი“.

ჩვენ (Yandex. - T&P შენიშვნა) დავიწყეთ მხიარულება ნერვული ქსელების მიერ დაწერილი მუსიკით ჯერ კიდევ 2017 წელს, - ჩვენს მიერ შექმნილი მუსიკა აღიარებულ იქნა ორიგინალურ კომპოზიტორად და სკრიაბინის შემოქმედების ექსპერტად, მარია ჩერნოვა. როგორც ივან იამშჩიკოვმა აღნიშნა, რა მოხდება, თუ ნერვულ ქსელს მოსწონს ერთი და იგივე ნოტის დაკვრა ოთხი წუთის განმავლობაში? ვფიქრობ, ეს სიცილის გარდა არაფერს გამოიწვევს („სცენარმა გაიჭედა“). და თუ ვივარაუდებთ, რომ ეს ადამიანმა გამოიგონა, მაშინვე გამოვა თარჯიმნების დიდი რაოდენობა, რომლებიც დაიწყებენ ახსნას, რომ ეს ღრმა აზრია, გამოხატავს ამაზრზენი სტაგნაციის იდეას, რომელშიც ჩვენ ვცხოვრობთ და ა. ეს არის არა თავად ნაწარმოების, არამედ ჩვენთვის მოცემული კონტექსტის ინტერპრეტაციის საკითხი.

დღეს, თუნდაც მათემატიკური სტატიის შესავალში Music Generation with Variational Recurrent Autoencoder Supported by History, მისი ავტორები წერენ, რომ ამოცანები, რომლებიც მოიცავს ინტუიციურ ან კრეატიულ მიდგომას, დიდი ხანია განიხილება წმინდა ადამიანურად, მაგრამ ახლა სულ უფრო მეტი ალგორითმი ხელმისაწვდომი ხდება და მუსიკა. მხოლოდ ერთი მაგალითია ასეთი ამოცანები.

ორი წლის შემდეგ ჩვენ დავწერეთ მუსიკა უმსხვილესი მუსიკოსისთვის იური ბაშმეტისთვის (იანდექსის მიერ შექმნილი ნერვულმა ქსელმა შექმნა ნაწარმოები ალტისა და ორკესტრისთვის კომპოზიტორ კუზმა ბოდროვთან თანამშრომლობით. - T&P შენიშვნა). როცა ხალხს უყვები ამ მოვლენის შესახებ, ისინი ასე რეაგირებენ: „ოჰ, გავიგეთ! ისინი ამბობენ, რომ ნერვული ქსელები კარგად ასრულებენ რუტინულ დავალებებს, ამიტომ კომპოზიტორი ქმნის სწორედ მელოდიას, ბრწყინვალე იდეას ნაწარმოების შესახებ და ნერვულმა ქსელმა ალბათ ისწავლა დანარჩენი საორკესტრო სამუშაოების შესრულება.” პირიქითაა. კომპოზიტორი კუზმა ბოდროვი ირწმუნება, რომ ნერვული ქსელი გახდა მისი სრულფასოვანი თანაავტორი და სწორედ მან შექმნა ურთულესი რამ, ორიგინალი, რომელიც მოგვიანებით გადაიქცა უფრო მეტში. ვისურვებდი, რომ ყოველთვის მყავდეს ისეთი თანაავტორი, რომელსაც შეუძლია შექმნას რაღაც ახალი და მოულოდნელი, არ დაიღალოს და არ ჩავარდეს დეპრესიაში.

ნერვული ქსელები და ფიზიკურობა

სტრუგაცკის წიგნში "ორშაბათი იწყება შაბათს", აღწერილია პიროვნებები, რომლებსაც ორმაგები ჰქვია: კარნახი, მაგრამ ვინ იცის როგორ გააკეთოს ეს კარგად. […] ნამდვილ ოსტატებს შეუძლიათ შექმნან ძალიან რთული, მრავალპროგრამიანი, თვითშესწავლის საშუალებები.” ასეთი წაღება რომანის ერთ-ერთმა გმირმა სხვა გმირის ნაცვლად მანქანით გაგზავნა. დუბლი მშვენივრად ხელმძღვანელობდა მოსკვიჩს, "დაიფიცა, როცა კოღოებმა უკბინა და სიამოვნებით მღეროდა გუნდში". ჩვენი „ალისა“ამას ჯერ არ აკეთებს, მაგრამ კიდევ ერთი ჰაკათონი დაიწყება. ჭკვიანი ადაპტაციური სისტემები აღწერილია 1965 წელს. ახლა ისინი უკვე არსებობენ - როგორც დუბლიკატები, რომლებიც უკეთესად ახარისხებენ ფურცლებს, ქმნიან ახალ მელოდიებს, აკეთებენ მედია დაგეგმვას და ა.შ. და ეს მხოლოდ დასაწყისია.

კევინ კელის წიგნში Inevitably არის მშვენიერი ფრაზა: „ყველაზე მნიშვნელოვანი სააზროვნო მანქანები არ იქნება ის, ვისაც შეუძლია ადამიანზე სწრაფად და უკეთესად აზროვნება, არამედ ის, ვინც ისწავლის აზროვნებას ისე, როგორც ადამიანებს არასოდეს შეუძლიათ“. თითქოს მთელი ცხოვრება ვახორციელებთ ფრენის იდეას, ვქმნით და ვაუმჯობესებთ ფრთებით ფრინველს, მხოლოდ მათ გავზრდით და ვიყენებთ თანამედროვე მასალებს. რაკეტის იდეა, რომელიც გადაგვიყვანს კოსმოსში, სადაც ფრთები გამოუსადეგარია, უბრალოდ არ გაჩნდებოდა, რადგან ის სრულიად განსხვავდება იმისგან, სადაც ყველაფერი დაიწყო.და ეს ჯერ კიდევ წინ არის - ამასობაში დიდი თანაავტორები გვყავს.

როდესაც ვსაუბრობთ ხელოვნურ ინტელექტზე და გვეშინია, რომ მანქანა დაგვანაცვლებს, ჩვენ ყოველთვის გვჯერა, რომ ადამიანი და ინტელექტი თითქმის სინონიმებია, ერთგვარი ურთიერთშემცვლელი ესენციები. Ეს არ არის სიმართლე. კიდევ ერთხელ მოვიყვან სტრუგაცკის ციტატას: „მე მაინც კაცი ვარ და მთელი ცხოველი ჩემთვის უცხო არ არის“. მაშინაც კი, როცა ნეირონული ქსელების დახმარებით ჩვენ ვისწავლით ლამაზად ცეკვას ეკრანებზე, ეს არ გვაქცევს ადამიანებს, რომლებსაც შეუძლიათ ცეკვისგან ნამდვილი მღელვარება მიიღონ. ფიზიკურობა ისეთივე მნიშვნელოვანია, როგორც ინტელექტი. და ჯერჯერობით ჩვენ საერთოდ არ გვესმის, როგორ უნდა გავაკეთოთ ალგორითმული რაღაც, რომელიც, ისევე როგორც ჩვენ, არ იქნება უცხო მთელი ცხოველისთვის.