პარასკევს Koko-ს თანადამფუძნებელმა რობ მორისმა განაცხადა Twitter, რომ მისმა კომპანიამ ჩაატარა ექსპერიმენტი 4 ადამიანს ფსიქიკური ჯანმრთელობის შესახებ AI-ით დაწერილი რჩევების მიწოდების მიზნით, წინასწარი შეტყობინების გარეშე, იუწყება The Verge. კრიტიკოსებმა ექსპერიმენტს ღრმად არაეთიკური უწოდეს, რადგან კოკომ არ მიიღო ინფორმირებული თანხმობა იმ ადამიანებისგან, ვინც რჩევას სთხოვდა. Koko არის არაკომერციული ფსიქიკური ჯანმრთელობის პლატფორმა, რომელიც აკავშირებს მოზარდებსა და მოზარდებს, რომლებსაც ფსიქიკური ჯანმრთელობის დაცვა სჭირდებათ მოხალისეებთან შეტყობინებების აპლიკაციების საშუალებით, როგორიცაა Telegram და უთანხმოება.
Discord-ზე მომხმარებლები შედიან Koko Cares სერვერზე და უგზავნიან პირდაპირ შეტყობინებებს Koko bot-ს, რომელიც სვამს მრავალჯერადი არჩევანის კითხვებს (მაგ., "რა არის ყველაზე ბნელი აზრი ამის შესახებ?"). შემდეგ ის ანონიმურად უზიარებს პიროვნების შეშფოთებას, ჩაწერილი ტექსტის რამდენიმე წინადადების სახით, სერვერზე სხვა ვინმესთან, რომელსაც შეუძლია ანონიმურად უპასუხოს საკუთარი მოკლე შეტყობინების საშუალებით.
https://twitter.com/RobertRMorris/status/1611450197707464706?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1611450197707464706%7Ctwgr%5Ea36b67a72ef02f3601dfae160441f1250a68dc2a%7Ctwcon%5Es1_c10&ref_url=https%3A%2F%2Farstechnica.com%2Finformation-technology%2F2023%2F01%2Fcontoversy-erupts-over-non-consensual-ai-mental-health-experiment%2F
მორისის თქმით, ხელოვნური ინტელექტის (AI) ექსპერიმენტში, რომელიც მოიცავს დაახლოებით 30 შეტყობინებას, მოხალისეებს, რომლებიც სხვებს ეხმარებოდნენ, ჰქონდათ შესაძლებლობა გამოეყენებინათ პასუხი, რომელიც ავტომატურად გენერირებული იყო OpenAI-ს GPT-3 დიდი ენის მოდელის მიერ დამოუკიდებლად დაწერის ნაცვლად (GPT-3 არის ტექნოლოგია უკან. ახლახან პოპულარული ChatGPT ჩატბოტი). თავის ტვიტერში მორისი აღნიშნავს, რომ ადამიანები ადიდებდნენ AI-ის მიერ გენერირებულ პასუხებს, სანამ არ გაიგებდნენ, რომ ისინი დაწერილი იყო ხელოვნური ინტელექტის მიერ, რაც მიუთითებს ინფორმირებული თანხმობის ძირითად ნაკლებობაზე ექსპერიმენტის მინიმუმ ერთ ფაზაში:
„ინტელექტის ხელოვნური ინტელექტის (და ადამიანების მიერ კონტროლირებადი) შეტყობინებები მნიშვნელოვნად მაღალი იყო, ვიდრე თავად ადამიანების მიერ დაწერილი შეტყობინებები. რეაგირების დრო შემცირდა 50%-ით წუთზე ნაკლებ დროზე. და მაინც… ეს ფუნქცია ჩვენი პლატფორმიდან საკმაოდ სწრაფად წავშალეთ. რატომ? მას შემდეგ რაც ადამიანებმა გაიგეს, რომ შეტყობინებები მანქანით გენერირებული იყო, მან შეწყვიტა მუშაობა. სიმულირებული სიმპათია უცნაურად, ცარიელი ჩანს“.
სერვერის შესავალში ადმინისტრატორები წერენ: „კოკო აკავშირებს თქვენ რეალურ ადამიანებთან, რომლებსაც ნამდვილად ესმით თქვენი. არა თერაპევტები, არა მრჩევლები, უბრალოდ შენნაირი ადამიანები“. მალევე მას შემდეგ, რაც მორისმა გამოაქვეყნა შეტყობინება, მან მიიღო მრავალი პასუხი, რომელიც აკრიტიკებდა ექსპერიმენტს, როგორც არაეთიკურს, ასახელებდა შეშფოთებას ინფორმირებული თანხმობის არარსებობის შესახებ და კითხვის ნიშნის ქვეშ აყენებდა თუ არა ექსპერიმენტს დამტკიცებული ინსტიტუციური განხილვის საბჭო (IRB). შეერთებულ შტატებში არალეგალურია ადამიანებზე კვლევის ჩატარება კანონიერად ეფექტური ინფორმირებული თანხმობის გარეშე, თუ IRB არ განსაზღვრავს, რომ თანხმობის უარყოფა შესაძლებელია.
საპასუხოდ ტვიტერში მორისმა თქვა, რომ ექსპერიმენტი "განთავისუფლებულია" ინფორმირებული თანხმობის მოთხოვნებისგან, რადგან მას არ აპირებდა შედეგების გამოქვეყნებას, რამაც აღშფოთების აღლუმი გამოიწვია.
ხელოვნური ინტელექტის თერაპევტად გამოყენების იდეა შორს არის ახალისგან, მაგრამ ის, რაც კოკოს ექსპერიმენტს განასხვავებს AI თერაპიის ტიპიური მიდგომებისგან, არის ის, რომ პაციენტებმა იციან, რომ არ ესაუბრებიან ცოცხალ ადამიანს. Koko-ს შემთხვევაში, პლატფორმა მოიცავდა ჰიბრიდულ მიდგომას, სადაც ადამიანურ შუამავალს შეეძლო განეხილა შეტყობინება გაგზავნამდე, ნაცვლად პირდაპირი ჩატის ფორმატისა. თუმცა, ინფორმირებული თანხმობის გარეშე, კრიტიკოსები ამბობენ, რომ კოკომ დაარღვია ეთიკური წესები, რომლებიც შექმნილია დაუცველი ადამიანების დასაცავად მავნე ან სასტიკი კვლევის პრაქტიკისგან.
საუბრისას, როგორც IRB-ს ყოფილი წევრი და თავმჯდომარე, თქვენ ჩაატარეთ ადამიანური სუბიექტების კვლევა მოწყვლადი პოპულაციის შესახებ IRB-ის დამტკიცების ან გამონაკლისის გარეშე (თქვენ არ შეგიძლიათ გადაწყვიტოთ). შესაძლოა MGH IRB პროcess არის ძალიან ნელი, რადგან ის ეხება მსგავს ნივთებს. არასასურველი რჩევა: ადვოკატი
— დანიელ შოსკესი (@dshoskes) იანვარი 7, 2023
ორშაბათს, მორისმა გამოაქვეყნა პოსტი, სადაც ეხმაურებოდა დაპირისპირებას და ახსნიდა კოკოს მოგზაურობას GPT-3-ისკენ და ზოგადად AI-ში: ”მე ვიღებ კრიტიკას, შეშფოთებას და კითხვებს ამ სამუშაოს შესახებ თანაგრძნობით და ღიად. ჩვენ მზად ვართ უზრუნველვყოთ ხელოვნური ინტელექტის ნებისმიერი გამოყენება სენსიტიური, ღრმა შეშფოთებით კონფიდენციალურობის, გამჭვირვალობისა და რისკის შერბილების შესახებ. ჩვენი კლინიკური მრჩეველთა საბჭო იკრიბება, რათა განიხილოს მომავალი მუშაობის გაიდლაინები, მათ შორის IRB დამტკიცება.
თქვენ შეგიძლიათ დაეხმაროთ უკრაინას რუსი დამპყრობლების წინააღმდეგ ბრძოლაში. ამის საუკეთესო გზაა უკრაინის შეიარაღებული ძალებისთვის თანხების შემოწირულობა Savelife ან ოფიციალური გვერდის საშუალებით NBU.
ასევე წაიკითხეთ: