Იდუმალი პროექტი Q* OpenAI-დან ექსპერტების შეშფოთებას იწვევს. შეიძლება ის მართლაც საშიში იყოს კაცობრიობისთვის? რა არის ცნობილი მის შესახებ? მას შემდეგ, რაც სემ ალტმანი თავდაპირველად გაათავისუფლეს გასულ კვირას და ის და გუნდი თითქმის გადავიდნენ Microsoft, შემდეგ ის დაბრუნდა თავის სამუშაო ადგილზე (ამის შესახებ აქ დავწერეთ), OpenAI კვლავ სიახლეებშია. ამჯერად იმის გამო, რასაც ზოგიერთი მკვლევარი კაცობრიობისთვის შესაძლო საფრთხეს უწოდებს. დიახ, სწორად წაიკითხეთ, საფრთხე კაცობრიობისთვის.
ტექნოლოგიის სამყაროში ნამდვილი აჯანყება გამოიწვია Project Q*-მა - ზოგადი ხელოვნური ინტელექტის (AGI) გაურკვეველი პროექტი - გამოხატული Q-Star. მიუხედავად იმისა, რომ ეს პროექტი ადრეულ ეტაპებზეა, იგი ითვლება ჭეშმარიტად ინოვაციური AGI-ის განვითარებაში. თუმცა ზოგიერთი მას კაცობრიობისთვის საშიშროებად თვლის.
ხელოვნური ინტელექტის საიდუმლო პროექტს, რომელიც შემუშავებულია ცნობილი ხელოვნური ინტელექტის ლაბორატორიის OpenAI-ის მიერ, აქვს პოტენციალი, მოახდინოს რევოლუცია ტექნოლოგიასა და ზოგადად საზოგადოებაში. მაგრამ ის ასევე ბადებს გარკვეულ ეთიკურ კითხვებს რისკებთან დაკავშირებით. როდესაც დეტალები ჩნდება Project Q*-ის გასაოცარი შესაძლებლობების შესახებ, უფრო და უფრო მეტი ვარაუდი ჩნდება იმის შესახებ, თუ რას შეიძლება ნიშნავდეს ის კაცობრიობის მომავლისთვის.
ასევე საინტერესოა: OpenAI-ის ისტორია: რა იყო და რა ელის კომპანიას
რა არის ხელოვნური ზოგადი ინტელექტი (AGI)?
პროექტის Q* (Q-Star) გარშემო არსებული აჟიოტაჟის გასაგებად, ჯერ შევეცადოთ გავიგოთ, რა არის ხელოვნური ზოგადი ინტელექტის (AGI) კონცეფცია. მიუხედავად იმისა, რომ ამჟამინდელი ხელოვნური ინტელექტის სისტემები გამოირჩევიან ვიწრო, სპეციფიკურ ამოცანებში, როგორიცაა ჭადრაკის თამაში ან სურათების შექმნა, ზოგადი ხელოვნური ინტელექტი ეხება მანქანებს, რომლებსაც შეუძლიათ ისწავლონ და იფიქრონ ადამიანის დონეზე მრავალ სფეროში. ანუ მათ შეუძლიათ სკოლაში პატარა ბავშვებივით ისწავლონ, მაგალითად, მათემატიკის, ქიმიის, ბიოლოგიის საფუძვლები და ა.შ.
ზოგადი ხელოვნური ინტელექტი (AGI) არის მანქანური ინტელექტის ტიპი, რომელსაც შეუძლია ჰიპოთეტურად მიბაძოს ადამიანის ინტელექტს ან ქცევას, უნარი ისწავლოს და გამოიყენოს ეს პოტენციალი სხვადასხვა პრობლემის გადასაჭრელად. AGI-ს ასევე უწოდებენ ძლიერ ხელოვნურ ინტელექტს, სრულ ხელოვნურ ინტელექტს ან ადამიანის დონის ხელოვნურ ინტელექტს. ზოგადი AI განსხვავდება სუსტი ან ვიწრო AI-სგან, რომელსაც შეუძლია მხოლოდ კონკრეტული ან სპეციალიზებული ამოცანების შესრულება მოცემული პარამეტრების ფარგლებში. ZHI შეძლებს დამოუკიდებლად გადაჭრას სხვადასხვა კომპლექსური პრობლემა ცოდნის სხვადასხვა სფეროდან.
ხელოვნური ინტელექტის შექმნა არის ისეთი კომპანიების მიერ ხელოვნური ინტელექტის კვლევის მთავარი აქცენტი, როგორიცაა DeepMind და Anthropic. CSI არის ძალიან პოპულარული თემა სამეცნიერო ფანტასტიკურ ლიტერატურაში და შეიძლება აყალიბებდეს მომავალ კვლევას. ზოგი ამტკიცებს, რომ შესაძლებელია UCI-ის შექმნა წლების ან ათწლეულების განმავლობაში, ზოგი კი ამტკიცებს, რომ ამას შეიძლება დასჭირდეს საუკუნე ან მეტი. მაგრამ არიან ისეთებიც, რომლებიც თვლიან, რომ ეს ვერასოდეს მიიღწევა. ზოგიერთმა ნახა URI-ს დასაწყისი GPT-3-ში, მაგრამ ის მაინც შორს არის ძირითადი კრიტერიუმების დაკმაყოფილებისგან.
ხელოვნური ზოგადი ინტელექტის (AGI) შექმნა მკვლევარების მიერ ხელოვნური ინტელექტის წმინდა გრაალია, თეორიული შესაძლებლობა, რომელიც დიდი ხანია იპყრობს მათ ფანტაზიას. ამიტომ, ისეთი პროექტის გამოჩენამ, როგორიცაა OpenAI Project Q*, დიდი რეზონანსი გამოიწვია ხელოვნური ინტელექტის ალგორითმის კვლევის სამყაროში. მიუხედავად იმისა, რომ ყველას ესმის, რომ ეს მხოლოდ პირველი ნაბიჯებია, თითქმის ბრმად, სამყაროში, სადაც ხელოვნურ ინტელექტს ექნება ისეთივე შესაძლებლობები, როგორიც ადამიანებს, ან კიდევ უფრო მაღალი.
ასევე საინტერესოა: ყველაფერი Microsoft კოპილოტი: მომავალი თუ არასწორი გზა?
რა არის პროექტი Q*?
პროექტი Q* არ არის ტიპიური ალგორითმი, რადგან ეს არის ხელოვნური ინტელექტის მოდელი, რომელიც სულ უფრო უახლოვდება ხელოვნური ზოგადი ინტელექტის (AGI) მოდელს. ეს ნიშნავს, რომ ChatGPT-ისგან განსხვავებით, Project Q* აჩვენებს უკეთეს აზროვნებას და კოგნიტურ უნარებს სხვა ალგორითმებთან შედარებით. ChatGPT ამჟამად პასუხობს შეკითხვებს, რომლებიც დაფუძნებულია უამრავ ფაქტობრივ მასალაზე, მაგრამ AGI-სთან ერთად, AI-ის მოდელი ისწავლის მსჯელობას და საკუთარი თავის ფიქრისა და გაგების უნარს. უკვე ცნობილია, რომ Project Q*-ს შეუძლია გადაჭრას მარტივი მათემატიკური ამოცანები, რომლებიც არ იყო მისი სასწავლო მასალის ნაწილი. ამაში ზოგიერთი მკვლევარი ხედავს მნიშვნელოვან ნაბიჯს ზოგადი ხელოვნური ინტელექტის (AGI) შექმნისკენ. OpenAI განსაზღვრავს AGI-ს, როგორც ხელოვნური ინტელექტის სისტემებს, რომლებიც უფრო ჭკვიანები არიან ვიდრე ადამიანები.
Project Q*-ის განვითარებას მართავს OpenAI-ის მთავარი მეცნიერი ილია სუცკევერი და მისი საფუძველი დაასაბუთეს მკვლევარებმა იაკუბ პახოცკიმ და შიმონ სიდორმა.
მათემატიკური ამოცანების დამოუკიდებლად გადაჭრის ალგორითმის უნარი, თუნდაც ეს პრობლემები არ იყოს სასწავლო მონაცემთა ნაკრების ნაწილი, ითვლება გარღვევად ხელოვნური ინტელექტის სფეროში. ამ პროექტთან დაკავშირებით გუნდში უთანხმოება დაკავშირებულია OpenAI-ის აღმასრულებელი დირექტორის სემ ალტმანის დროებით გადაყენებასთან. ცნობილია, რომ სანამ ალტმანი გაათავისუფლეს, კომპანიის მკვლევართა ჯგუფმა დირექტორთა საბჭოს წერილი გაუგზავნა, სადაც აფრთხილებდა ხელოვნური ინტელექტის აღმოჩენის შესახებ, რომელიც საფრთხეს უქმნიდა კაცობრიობას. ეს წერილი, რომელიც სავარაუდოდ განიხილავდა Project Q* ალგორითმს, იყო მოხსენიებული, როგორც ერთ-ერთი ფაქტორი, რამაც გამოიწვია ალტმანის გათავისუფლება. თუმცა, Project Q*-ის შესაძლებლობები და მისი პოტენციური რისკები ბოლომდე არ არის გასაგები, რადგან დეტალები უცნობია. ფართო საზოგადოებისთვის არაფერი გავრცელებულა.
თავის არსში, Project Q* არის მოდელისგან თავისუფალი გაძლიერების სწავლის მეთოდი, რომელიც შორდება ტრადიციულ მოდელებს და არ საჭიროებს წინასწარ ცოდნას გარემოზე. ამის ნაცვლად, ის სწავლობს გამოცდილებით, ადაპტირებს მოქმედებებს ჯილდოებსა და სასჯელებზე დაყრდნობით. ტექნიკური ექსპერტები თვლიან, რომ Project Q* შეძლებს გამორჩეული შესაძლებლობების მოპოვებას ადამიანის შემეცნებითი შესაძლებლობების მსგავსი შესაძლებლობების შეძენით.
თუმცა, სწორედ ეს თვისებაა ყველაზე შთამბეჭდავი ხელოვნური ინტელექტის ახალ მოდელში, რომელიც აწუხებს მკვლევარებსა და კრიტიკოსებს და ზრდის მათ შიშს ტექნოლოგიის რეალურ სამყაროში გამოყენებისა და ძირითადი რისკების შესახებ. რისი ეშინიათ ასე ასე მეცნიერებსა და მკვლევარებს? მოდი გავარკვიოთ.
ასევე საინტერესოა: როგორ განაახლოთ თქვენი სახლის მოწყობილობები Wi-Fi 6-ის მხარდასაჭერად
მათ ეშინიათ უცნობის
ადამიანებს ყოველთვის ეშინოდათ უცნობის, შეუცნობლის. ეს არის ადამიანური არსი, ჩვენი ხასიათისა და ცხოვრების წესის თვისება.
ტექნოლოგიების სამყარომ Project Q*-ის შესახებ შეიტყო 2023 წლის ნოემბერში Reuters-ის შემდეგ იტყობინება OpenAI-ის დაინტერესებული მკვლევარების მიერ დაწერილი შიდა წერილის შესახებ. წერილის შინაარსი ბუნდოვანი იყო, მაგრამ გავრცელებული ინფორმაციით, სერიოზულად იყო გაანალიზებული Project Q*-ის შესაძლებლობები. როგორც ზემოთ აღვნიშნე, არის ვარაუდიც კი, რომ სწორედ ამ წერილმა გამოიწვია სემ ალტმანის გადადგომა.
ამ ფეთქებადი აღმოჩენამ წარმოშვა სხვადასხვა ჰიპოთეზა პროექტ Q*-ის ბუნებასთან დაკავშირებით. მეცნიერებმა ვარაუდობენ, რომ ეს შეიძლება იყოს რევოლუციური ბუნებრივი ენის მოდელი ხელოვნური ინტელექტისთვის. ახალი ალგორითმების ერთგვარი გამომგონებელი, რომელიც შექმნის მათ ხელოვნური ინტელექტის სხვა ფორმებისთვის, ან რაღაც სრულიად განსხვავებული ამ სფეროში.
ალტმანის პროვოკაციულმა კომენტარებმა ზოგადი ხელოვნური ინტელექტის შესახებ, როგორც „საშუალო თანამშრომლის“ შესახებ, უკვე გააჩინა შეშფოთება სამუშაოს უსაფრთხოებაზე და ხელოვნური ინტელექტის გავლენის შეუჩერებელი გაფართოების შესახებ. ეს იდუმალი ალგორითმი განისაზღვრება, როგორც ეტაპად ხელოვნური გენერალური ინტელექტის (AGI) განვითარებაში. თუმცა, ყველას ესმის, რომ ეს ეტაპი ძვირია. და ახლა ფულზე არ არის საუბარი. ახალი AI მოდელის მიერ დაპირებული შემეცნებითი უნარების დონე თან ახლავს გაურკვევლობას. OpenAI-ს მეცნიერები გვპირდებიან, რომ ხელოვნური ინტელექტი ექნება ადამიანის დონეზე აზროვნებას. და ეს ნიშნავს, რომ ჩვენ არ შეგვიძლია ბევრი რამის ცოდნა და შედეგების პროგნოზირება. და რაც უფრო უცნობია, მით უფრო რთულია მის გასაკონტროლებლად ან გამოსასწორებლად მომზადება. ანუ ახალ ალგორითმს შეუძლია თვითგანვითარება და განვითარება. ეს სადღაც ვნახეთ უკვე...
ასევე საინტერესოა: Windows 12: რა იქნება ახალი OS
საოცარი დეტალები Project Q-ის შესაძლებლობების შესახებ*
როდესაც მეტი ინფორმაცია დაიწყო, მან შოკში ჩააგდო მრავალი მკვლევარი. ადრეული მინიშნებები იყო, რომ პროექტ Q*-ს გააჩნდა საოცარი უნარი მათემატიკაში. განსხვავებით კალკულატორისგან, რომელიც ახორციელებს მექანიკურ გამოთვლებს, პროექტ Q*-ს შეუძლია გამოიყენოს ლოგიკა და მსჯელობა რთული მათემატიკური ამოცანების გადასაჭრელად. განზოგადების ეს მათემატიკური უნარი მიანიშნებს ფართო ინტელექტის განვითარებაზე.
Project Q*-ის ავტონომიური ტრენინგი, სპეციფიკური მონაცემთა ნაკრების გარეშე, რომელიც გამოიყენება ტიპიური AI-ების მოსამზადებლად, ასევე იქნება წინგადადგმული ნაბიჯი. უცნობია, დაეუფლა თუ არა პროექტ Q* სხვა უნარებს. მაგრამ მისი მათემატიკური შესაძლებლობები თავისთავად იმდენად საოცარია, რომ გამოცდილ მკვლევარებსაც კი აბნევს.
ასევე წაიკითხეთ: ადამიანის ტვინის პროექტი: ადამიანის ტვინის იმიტაციის მცდელობა
პროექტი Q*-ის გზა დომინირებისკენ?
ამ საკითხში არის როგორც ოპტიმისტური, ასევე პესიმისტური სცენარები. ოპტიმისტები იტყვიან, რომ პროექტი Q* შეიძლება იყოს ნაპერწკალი, რომელსაც მივყავართ ტექნოლოგიურ გარღვევამდე. როდესაც სისტემა რეკურსიულად იხვეწება, მისი ზებუნებრივი ინტელექტი შეიძლება დაეხმაროს კაცობრიობის ზოგიერთი ყველაზე მნიშვნელოვანი პრობლემის გადაჭრას, დაწყებული კლიმატის ცვლილებით და დამთავრებული დაავადებების კონტროლამდე. Project Q*-ს შეუძლია მოსაწყენი სამუშაოს ავტომატიზირება და ჩვენი თავისუფალი დროის გათავისუფლება სხვა აქტივობებისთვის.
მიუხედავად იმისა, რომ კიდევ ბევრი პესიმისტური ვარიანტია. ზოგჯერ ისინი საკმაოდ გონივრულია და აქვთ გარკვეული მნიშვნელობა.
სამუშაო ადგილების დაკარგვა
ტექნოლოგიის განვითარების სწრაფმა ცვლილებებმა შეიძლება გადააჭარბოს ადამიანების ინდივიდუალურ ადაპტაციას. ეს გამოიწვევს ერთი ან რამდენიმე თაობის დაკარგვას, რომელიც ვერ შეძლებს ახალ რეალობასთან ადაპტაციისთვის საჭირო უნარ-ჩვევებს ან ცოდნას. ანუ, ეს, თავის მხრივ, ნიშნავს, რომ ნაკლები ადამიანი შეძლებს სამუშაოს შენარჩუნებას. მის ნაცვლად შესრულდება მანქანები, ავტომატური სისტემები და რობოტები. თუმცა, პასუხი არც ისე მკაფიოა, როცა საქმე კვალიფიციურ სპეციალისტებს ეხება. გარდა ამისა, შეიძლება გამოჩნდეს ახალი პროფესიები, რომლებიც დაკავშირებულია სპეციალურად ხელოვნური ინტელექტის ალგორითმების შემუშავებასთან. მაგრამ რისკები ჯერ კიდევ არსებობს და კაცობრიობას არ აქვს მათი უგულებელყოფის უფლება.
უკონტროლო ძალაუფლების საფრთხე
თუ ისეთივე ძლიერი AI, როგორიც პროექტი Q* მოხვდება ბოროტი განზრახვების მქონეთა ხელში, ის კაცობრიობისთვის კატასტროფულ შედეგებს ემუქრება. პოტენციურად მავნე განზრახვის გარეშეც კი, Project Q*-ის გადაწყვეტილების მიღების დონემ შეიძლება გამოიწვიოს მავნე შედეგები, რაც ხაზს უსვამს მისი გამოყენების ფრთხილად შეფასების მნიშვნელოვან მნიშვნელობას.
თუ პროექტი Q* ცუდად არის ოპტიმიზირებული ადამიანის საჭიროებებისთვის, მას შეუძლია ზიანი მიაყენოს ზოგიერთი თვითნებური მეტრიკის მაქსიმიზაციის შესაძლებლობით. ან შეიძლება ჰქონდეს პოლიტიკური განზომილება, როგორიცაა სახელმწიფო თვალთვალის ან რეპრესიისთვის გამოყენება. ღია დებატები პროექტის Q* ზემოქმედების ანალიზის ირგვლივ დაეხმარება ZHI-ს განვითარების შესაძლო სცენარების განსაზღვრას.
გველოდება "ადამიანი მანქანების წინააღმდეგ" დაპირისპირება?
ჰოლივუდმა უკვე შექმნა მსგავსი დაპირისპირების მრავალი სცენარი თავის ფილმებში. ყველას გვახსოვს ცნობილი SkyNet და ასეთი აღმოჩენის შედეგები. იქნებ OpenAI-ის მკვლევარებმა კიდევ ერთხელ უნდა უყურონ ამ ფილმს?
კაცობრიობამ უნდა მიიღოს სიგნალები და გამოწვევები და მოემზადოს იმისთვის, რაც შეიძლება მოხდეს. ხელოვნური ინტელექტის მოდელი, რომელსაც შეუძლია ადამიანურად აზროვნება, შესაძლოა ოდესმე ჩვენი მტერი გახდეს. ბევრი ამტკიცებს, რომ მომავალში მეცნიერებმა ზუსტად იცოდნენ, როგორ შეინარჩუნონ სიტუაცია კონტროლის ქვეშ. მაგრამ რაც შეეხება მანქანებს, თქვენ არ შეგიძლიათ მთლიანად გამორიცხოთ შესაძლებლობა, რომ ისინი შეეცდებიან ადამიანების ხელში ჩაგდებას.
ასევე საინტერესოა: ყველაფერს, რასაც ჩვენ AI-ს ვუწოდებთ, სინამდვილეში ხელოვნური ინტელექტი არ არის. აი, რა უნდა იცოდეთ
რატომ დუმს OpenAI?
მიუხედავად Project Q*-ის მიმართ საზოგადოების ინტერესისა, OpenAI-ს მენეჯმენტი დუმს ალგორითმის სპეციფიკის შესახებ. მაგრამ შიდა გაჟონვა აჩვენებს მზარდ დაძაბულობას ლაბორატორიაში პრიორიტეტებისა და განვითარების ღიაობის შესახებ. მიუხედავად იმისა, რომ OpenAI-ის ბევრი ინსაიდერი მხარს უჭერს Project Q*-ს შექმნას, კრიტიკოსები ამტკიცებენ, რომ გამჭვირვალობამ უკანა პლანზე გადაინაცვლა სამეცნიერო პროგრესის ნებისმიერ ფასად დაჩქარებაზე. და ზოგიერთი მკვლევარი შეშფოთებულია, რომ წარმოუდგენელი ძალა ენიჭება სისტემებს, რომელთა მიზნები სულაც არ ემთხვევა ადამიანურ ღირებულებებსა და ეთიკას. ეს მკვლევარები თვლიან, რომ დებატები ზედამხედველობისა და ანგარიშვალდებულების ირგვლივ სახიფათოდ დადუმდა. მათ მეტი საჯაროობა და დეტალები სჭირდებათ.
როგორც Project Q*-ის შემქმნელებმა, OpenAI-მ უნდა გააცნობიეროს, რომ მათ აქვთ ტექნოლოგია, რომელსაც შეუძლია ან მნიშვნელოვნად გააფართოოს საზოგადოების განვითარების შესაძლებლობები, ან დაუნდობლად გაანადგუროს იგი. ასეთი მნიშვნელოვანი ინოვაციები იმსახურებს ბევრად მეტ გამჭვირვალობას საზოგადოების ნდობის გასამყარებლად. მანქანური ასაკის ნებისმიერმა პროგნოზირებულმა გულდასმით უნდა შეაფასოს რისკები სარგებელის პარალელურად. და Project Q*-ის შემქმნელებმა უნდა გამოიჩინონ საკმარისი სიბრძნე და ზრუნვა, რათა უსაფრთხოდ შეიყვანონ საზოგადოება ზოგადი ხელოვნური ინტელექტის ახალ ეპოქაში, რომელიც შეიძლება უფრო ადრე მოვიდეს, ვიდრე ჩვენ წარმოვიდგენდით.
იმისათვის, რომ ზოგადი ხელოვნური ინტელექტი იყოს სასარგებლო და უსაფრთხო კაცობრიობისთვის, უზრუნველყოფილი უნდა იყოს, რომ ის მუშაობს უსაფრთხოდ, ეთიკურად და კაცობრიობის ღირებულებებისა და მიზნების შესაბამისად. ეს მოითხოვს შესაბამისი მარეგულირებელი აქტების, სტანდარტების, წესებისა და პროტოკოლების შემუშავებას და განხორციელებას, რომელიც გააკონტროლებს და შეზღუდავს CSI-ის ქმედებებსა და ქცევას. გარდა ამისა, უნდა აღმოიფხვრას პოტენციური საფრთხეები და რისკები, რომლებიც დაკავშირებულია ბოროტად გამოყენებასთან, უბედურ შემთხვევასთან, შეუთავსებლობასთან, მანიპულაციებთან და კონფლიქტებთან, რამაც შეიძლება გამოიწვიოს კაცობრიობის განადგურება. ამასობაში ინვესტორები და Microsoft მოუთმენლად ელოდება გაყიდვადი პროდუქტს, რომელსაც შეუძლია მოგება გამოიღოს, რაც უდავოდ ეწინააღმდეგება პასუხისმგებლობით მოქმედების აუცილებლობას. იმედი ვიქონიოთ, რომ საღი აზრი გაიმარჯვებს.
ასევე წაიკითხეთ: