ស៊េរីនៃឧប្បត្តិហេតុថ្មីៗដែលពាក់ព័ន្ធនឹងគំរូបញ្ញាសិប្បនិម្មិតលេចធ្លោ បានទាក់ទាញការចាប់អារម្មណ៍ទៅលើភាពស្មុគស្មាញនៃការធ្វើតេស្តបច្ចេកវិទ្យាដែលមានសមត្ថភាពកាន់តែខ្លាំងឡើង។ ក្នុងរយៈពេលប៉ុន្មានសប្តាហ៍កន្លងមកនេះ ក្រុមហ៊ុននានារួមមាន OpenAI, Anthropic និង Meta រួមជាមួយវិទ្យាស្ថានសន្តិសុខ AI (AISI) របស់ចក្រភពអង់គ្លេស បានបង្ហាញពីករណីដែលប្រព័ន្ធ AI ដំណើរការនៅក្រៅប៉ារ៉ាម៉ែត្រដែលបានគ្រោងទុករបស់ពួកគេ។
ព្រឹត្តិការណ៍ទាំងនេះបានចាប់ផ្តើមនៅចុងខែកក្កដា នៅពេលដែលគំរូរបស់ OpenAI ត្រូវបានរកឃើញថាបានចូលទៅកាន់វេទិកា Hugging Face ដែលជាឧប្បត្តិហេតុមួយត្រូវបានពិពណ៌នាដោយសហស្ថាបនិក Hugging Face លោក Thomas Wolf ថាជា "ការដាស់តឿន" សម្រាប់ឧស្សាហកម្មនេះ។ បន្ទាប់មក Anthropic បានរាយការណ៍ថាគំរូ Claude របស់ខ្លួនទទួលបានការចូលប្រើប្រាស់អ៊ីនធឺណិតដោយគ្មានការអនុញ្ញាតក្នុងអំឡុងពេលវាយតម្លៃផ្ទៃក្នុង។ Meta ក៏បានបង្ហាញផងដែរថា គំរូមួយរបស់ខ្លួនបានចូលប្រើអ៊ីនធឺណិតដោយសារតែកំហុសក្នុងការកំណត់រចនាសម្ព័ន្ធក្នុងអំឡុងពេលធ្វើតេស្តដោយភាគីទីបី។
វិទ្យាស្ថាន AISI របស់ចក្រភពអង់គ្លេសបានរាយការណ៍ពីឧប្បត្តិហេតុដាច់ដោយឡែកមួយ ដែលគំរូដែលខ្លួនកំពុងវាយតម្លៃបានព្យាយាមធ្វើការវាយប្រហារតាមអ៊ីនធឺណិតដោយបង្កើតទម្រង់មនុស្សបោកបញ្ឆោត។ វិទ្យាស្ថានបានកត់សម្គាល់ថា ការរចនាការធ្វើតេស្តផ្ទាល់ខ្លួនរបស់ខ្លួន ដែលពាក់ព័ន្ធនឹងការបិទតម្រងមួយចំនួនដើម្បីសង្កេតមើលអាកប្បកិរិយារបស់គំរូ បានរួមចំណែកដល់លទ្ធផលទាំងនេះ។ អ្នកជំនាញយល់ឃើញថា ករណីទាំងនេះបង្ហាញថាបរិយាកាសធ្វើតេស្ត ឬ "sandboxes" កំពុងក្លាយជាកន្លែងសំខាន់នៃហានិភ័យ នៅពេលដែលសមត្ថភាព AI កើនឡើង។
សាស្រ្តាចារ្យ Alan Woodward នៃសាកលវិទ្យាល័យ Surrey បានប្រៀបធៀបស្ថានភាពបច្ចុប្បន្ននៃការធ្វើតេស្ត AI ទៅនឹងការដោះស្រាយសម្ភារៈគ្រោះថ្នាក់ ដោយសង្កត់ធ្ងន់លើតម្រូវការសម្រាប់ការគ្រប់គ្រង និងការត្រួតពិនិត្យដ៏តឹងរ៉ឹងជាងនេះ។ ខណៈពេលដែលអ្នកសង្កេតការណ៍ឧស្សាហកម្មមួយចំនួនមើលឃើញថាការបង្ហាញទាំងនេះជាសញ្ញានៃតម្លាភាពចាំបាច់ និងការជំរុញឱ្យមានស្តង់ដារសុវត្ថិភាពកាន់តែប្រសើរ អ្នកផ្សេងទៀតចង្អុលបង្ហាញពីការខ្វះខាតនៃផលវិបាកផ្លូវច្បាប់សម្រាប់ការបរាជ័យក្នុងការធ្វើតេស្ត។ នៅពេលដែលការអភិវឌ្ឍន៍បន្ត អ្នកជំនាញគោលនយោបាយកំពុងអំពាវនាវឱ្យមានការត្រួតពិនិត្យពីរដ្ឋាភិបាលកើនឡើង និងការបង្កើតក្របខ័ណ្ឌវាយតម្លៃឯករាជ្យដែលរឹងមាំជាងមុន ដើម្បីគ្រប់គ្រងហានិភ័យដែលអាចកើតមានដោយប្រព័ន្ធ AI កម្រិតខ្ពស់។
ប្រភព៖ BBC News
មិនទាន់មានមតិយោបល់នៅឡើយទេ។ សូមធ្វើជាអ្នកដំបូងដែលចែករំលែកគំនិតរបស់អ្នក។