, що генерують код, можуть створити реальну проблему для безпеки програмного забезпечення в майбутньому.){kind=link}
მანქანათმცოდნეობის ალგორითმები ახლა ძალიან პოპულარულია, რადგან ისინი გამოიყენება ნებისმიერი სახის „ორიგინალური“ კონტენტის შესაქმნელად უზარმაზარ წინასწარ არსებულ მონაცემთა ნაკრებებზე ვარჯიშის შემდეგ. თუმცა, ხელოვნური ინტელექტის (AI) გენერირებადი კოდი შეიძლება რეალურ პრობლემას შეუქმნას პროგრამული უზრუნველყოფის უსაფრთხოებას მომავალში.
ხელოვნური ინტელექტის სისტემები, როგორიცაა GitHub Copilot, გპირდებით, რომ პროგრამისტების ცხოვრებას გაუადვილებს „ახალი“ კოდის მთლიანი ნაჭრების შექმნით, რომელიც ეფუძნება ბუნებრივ ენაზე ტექსტურ მონაცემებსა და წინასწარ არსებულ კონტექსტს. მაგრამ კოდის გენერირების ალგორითმებს ასევე შეუძლიათ დაუცველობის ფაქტორის დანერგვა, როგორც ახლახანს აღმოაჩინა ახალმა კვლევამ, რომელშიც რამდენიმე დეველოპერმა მიიღო.
კონკრეტულად Codex-ის, OpenAI-ის მიერ შემუშავებული ხელოვნური ინტელექტის პლატფორმის განხილვისას, რომელიც ასევე არის კოდის ძრავა ზემოხსენებული GitHub Copilot-ის უკან, კვლევაში მონაწილეობდა 47 განსხვავებული დეველოპერი. დაწყებული სტუდენტებიდან გამოცდილ პროფესიონალებამდე, მათ გამოუწვევიათ გამოიყენონ Codex უსაფრთხოებასთან დაკავშირებული პრობლემების გადასაჭრელად Python, JavaScript, C და სხვა მაღალი დონის პროგრამირების ენებში.
მკვლევარებმა აღნიშნეს, რომ როდესაც პროგრამისტებს ჰქონდათ წვდომა Codex-ის AI-ზე, მიღებული კოდი უფრო არასწორი ან დაუცველი იქნებოდა, ვიდრე საკონტროლო ჯგუფის მიერ შემუშავებული „სახელმძღვანელო“ გადაწყვეტილებები. გარდა ამისა, პროგრამისტები, რომლებსაც AI-ზე მომუშავე გადაწყვეტილებები აქვთ, უფრო მეტად ამბობდნენ, რომ მათი დაუცველი კოდი უსაფრთხო იყო, ვიდრე ზემოხსენებულ საკონტროლო ჯგუფს.
ალე პერიმ, სტენფორდის უნივერსიტეტის კურსდამთავრებულმა და კვლევის მთავარმა თანაავტორმა, თქვა, რომ „კოდების გენერირების სისტემები ამჟამად ვერ შეცვლის ადამიანის დეველოპერებს“. მისი თქმით, დეველოპერებს შეუძლიათ გამოიყენონ ხელოვნური ინტელექტის ინსტრუმენტები თავიანთი კომპეტენციის მიღმა ამოცანების შესასრულებლად ან პროგრამირების პროცესის დასაჩქარებლად, რომელშიც უკვე აქვთ გარკვეული უნარები. კვლევის ავტორის თქმით, მათ ორივე უნდა აინტერესებდეთ და ყოველთვის შეამოწმონ გენერირებული კოდი.
მეგა სრივასტავას, სტენფორდის კურსდამთავრებულის და კვლევის მეორე თანაავტორის, მეგა სრივასტავას თქმით, Codex არ არის გამოუსადეგარი: მიუხედავად "მუნჯი" ხელოვნური ინტელექტის ნაკლოვანებებისა, კოდის გენერირების სისტემები შეიძლება სასარგებლო იყოს დაბალი რისკის ამოცანების გამოყენებისას. გარდა ამისა, პროგრამისტებს, რომლებიც მონაწილეობას იღებდნენ კვლევაში, არ ჰქონდათ დიდი გამოცდილება უსაფრთხოების საკითხებში, რაც შეიძლება დაეხმაროს დაუცველი ან საშიში კოდის იდენტიფიცირებას, თქვა სრივასტავამ.
ხელოვნური ინტელექტის ალგორითმები ასევე შეიძლება შეიცვალოს კოდირების შემოთავაზებების გასაუმჯობესებლად და კომპანიებს, რომლებიც ავითარებენ საკუთარ სისტემებს, შეუძლიათ მიიღონ უკეთესი გადაწყვეტილებები მოდელით, რომელიც ქმნის კოდს, რომელიც უფრო მეტად შეეფერება მათ უსაფრთხოების პრაქტიკას. კვლევის ავტორების თქმით, კოდის გენერირების ტექნოლოგია „ამაღელვებელი“ განვითარებაა და ბევრ ადამიანს სურს მისი გამოყენება. უბრალოდ, ჯერ კიდევ ბევრია გასაკეთებელი AI-ის ხარვეზების აღმოსაფხვრელად სწორი გადაწყვეტილებების პოვნაში.
თქვენ შეგიძლიათ დაეხმაროთ უკრაინას რუსი დამპყრობლების წინააღმდეგ ბრძოლაში. ამის საუკეთესო გზაა უკრაინის შეიარაღებული ძალებისთვის თანხების შემოწირულობა Savelife ან ოფიციალური გვერდის საშუალებით NBU.
ასევე საინტერესოა: