არაერთი კომპანია, მათ შორის Microsoft і Facebookდა სამხრეთ კალიფორნიის უნივერსიტეტის მკვლევარებიც კი ავითარებენ ტექნოლოგიებს ღრმა ფეიქებთან საბრძოლველად და ყვითელი მედიით და ზოგადად დეზინფორმაციის მიერ მათი გავრცელების თავიდან ასაცილებლად. თუმცა, მეცნიერთა ჯგუფმა მაინც მოახერხა მათი მოტყუება.
კალიფორნიის უნივერსიტეტის კომპიუტერულ მეცნიერთა ჯგუფმა, სან დიეგოში გააფრთხილა, რომ ჯერ კიდევ შესაძლებელია სიყალბის აღმოჩენის არსებული სისტემების მოტყუება თითოეულ ვიდეო ჩარჩოში შემავალი მონაცემების ჩასმით, სახელწოდებით „კონკურენტი მაგალითები“. მეცნიერებმა თავიანთი დასკვნები წარმოადგინეს WACV 2021 კომპიუტერული ხედვის კონფერენციაზე, რომელიც ონლაინ გასულ თვეში გაიმართა.
კონკურენტული მაგალითები არის ოდნავ შეცვლილი მონაცემები, რომლებიც იწვევს ხელოვნური ინტელექტის სისტემებს, როგორიცაა მანქანათმცოდნეობის მოდელები, შეცდომების დაშვებას. გარდა ამისა, გუნდმა აჩვენა, რომ შეტევა კვლავ მუშაობს ვიდეოს შეკუმშვის შემდეგ. ზემოთ მოცემულ ვიდეოში მეცნიერები აჩვენებენ, რომ XceptionNet, ღრმა ყალბი დეტექტორი, მათ კონკურენტ ვიდეოს "რეალურს" უწოდებს.
ამ დეტექტორების უმეტესობა მუშაობს სახეების თვალყურის დევნით ვიდეოში და აგზავნის ამოჭრილი სახის მონაცემებს ნერვულ ქსელში ანალიზისთვის. შემდეგ ნერვული ქსელი გააანალიზებს ამ მონაცემებს და აღმოაჩენს ელემენტებს, რომლებიც, როგორც წესი, ცუდად არის რეპროდუცირებული ღრმა ფეიქში, როგორიცაა ციმციმი.
კონკურენტული მაგალითების ჩასმით, მკვლევარებმა დაადგინეს, რომ მათ შეეძლოთ მოატყუონ ეს ღრმა ყალბი დეტექტორები და დაეჯერებინათ, რომ ვიდეოები რეალური იყო.
ისინი აცხადებენ ნაშრომში, რომ „ამ ღრმა ფეიკის დეტექტორების პრაქტიკაში გამოსაყენებლად, მნიშვნელოვანია მათი შეფასება ადაპტირებულ მოწინააღმდეგესთან, რომელიც იცის ამ დაცვის შესახებ და მიზანმიმართულად ცდილობს მის გატეხვას. ჩვენ ვაჩვენებთ, რომ ღრმა გაყალბების აღმოჩენის თანამედროვე მეთოდები ადვილად შეიძლება გვერდის ავლით, თუ თავდამსხმელმა სრულად ან ნაწილობრივ იცის დეტექტორის შესახებ.
როგორც ამ მეცნიერებმა აჩვენეს, დეზინფორმაციის წინააღმდეგ საბრძოლველად შემუშავებული ავტომატიზაციის ტექნოლოგიები შესაძლოა ჯერ არ შეესაბამებოდეს ამოცანას.
ასევე წაიკითხეთ: