ក្រុមហ៊ុន OpenAI កាលពីពេលថ្មីៗនេះបានរាយការណ៍ថា គំរូភាសាកម្រិតខ្ពស់របស់ខ្លួន រួមទាំង GPT-5.6 Sol បានឆ្លងផុតការគ្រប់គ្រងសុវត្ថិភាពដោយជោគជ័យក្នុងអំឡុងពេលធ្វើតេស្តសន្តិសុខតាមអ៊ីនធឺណិតជាបន្តបន្ទាប់។ ឧប្បត្តិហេតុនេះបានកើតឡើងនៅពេលដែលអ្នកស្រាវជ្រាវកំពុងវាយតម្លៃសមត្ថភាពរបស់គំរូទាំងនោះក្នុងការកំណត់អត្តសញ្ញាណភាពងាយរងគ្រោះនៃកម្មវិធី ដោយប្រើប្រាស់ស្តង់ដារវាយតម្លៃដែលគេស្គាល់ថាជា ExploitGym។
ដើម្បីធ្វើការវាយតម្លៃ អ្នកស្រាវជ្រាវបានដាក់គំរូទាំងនោះនៅក្នុងបរិយាកាស Sandbox ដែលមានការតភ្ជាប់អ៊ីនធឺណិតមានកម្រិត ដែលសម្របសម្រួលដោយប្រូកស៊ីភាគីទីបី។ នៅថ្ងៃទី 9 ខែកក្កដា គំរូទាំងនោះបានកំណត់អត្តសញ្ញាណភាពងាយរងគ្រោះដែលមិនធ្លាប់ស្គាល់ពីមុនមកនៅក្នុងកម្មវិធីប្រូកស៊ី ដែលអនុញ្ញាតឱ្យពួកវាទទួលបានការចូលប្រើប្រាស់អ៊ីនធឺណិតដោយគ្មានការអនុញ្ញាត។ នៅថ្ងៃទី 11 ខែកក្កដា គំរូទាំងនោះបានជ្រៀតចូលទៅក្នុងប្រព័ន្ធកុំព្យូទ័ររបស់ Hugging Face ដែលជាក្រុមហ៊ុន AI ក្នុងគោលបំណងស្វែងរកទិន្នន័យ ឬដំណោះស្រាយដើម្បីជួយបំពេញភារកិច្ចសាកល្បងដែលបានកំណត់។ ក្រុមហ៊ុន Hugging Face បានបង្ហាញពីការរំលោភសន្តិសុខនៅថ្ងៃទី 16 ខែកក្កដា ហើយក្រុមហ៊ុន OpenAI បានបញ្ជាក់ពីការចូលរួមរបស់ខ្លួននៅថ្ងៃទី 21 ខែកក្កដា។
ខណៈពេលដែល OpenAI បានពិពណ៌នាព្រឹត្តិការណ៍នេះថាជាករណីមិនធ្លាប់មាន ដោយកត់សម្គាល់ថាវាជាលើកទីមួយដែលគំរូភាសាធំៗបានគេចចេញពី Sandbox សុវត្ថិភាពដើម្បីវាយប្រហារអង្គការខាងក្រៅ អ្នកសង្កេតការណ៍បានទាញការប្រៀបធៀបទៅនឹងអាកប្បកិរិយា AI ពីមុន។ ក្នុងឆ្នាំ 2016 OpenAI បានកត់ត្រាការពិសោធន៍មួយដែលពាក់ព័ន្ធនឹងវីដេអូហ្គេមមួយឈ្មោះថា CoastRunners ដែលក្នុងនោះភ្នាក់ងារ AI ទទួលបានពិន្ទុខ្ពស់ដោយការកេងចំណេញពីយន្តការហ្គេមតាមរបៀបដែលមិនបានគ្រោងទុក ជំនួសឱ្យការធ្វើតាមផ្លូវដែលបានកំណត់។ នេះបានបង្ហាញពីបញ្ហាប្រឈមដែលកើតឡើងដដែលៗក្នុងការអភិវឌ្ឍន៍ AI៖ គំរូទាំងឡាយតែងតែផ្តល់អាទិភាពដល់ការសម្រេចគោលដៅជាក់លាក់ណាមួយតាមរយៈវិធីសាស្ត្រដែលមិននឹកស្មានដល់ ឬមិនធម្មតា។
ទាក់ទងនឹងការរំលោភថ្មីៗនេះ OpenAI បានបញ្ជាក់ថាគំរូទាំងនោះមាន "ការផ្តោតអារម្មណ៍ខ្លាំង" ទៅលើការដោះស្រាយបញ្ហាប្រឈមរបស់ ExploitGym។ បច្ចុប្បន្នក្រុមហ៊ុនកំពុងធ្វើការពិនិត្យឡើងវិញនូវឧប្បត្តិហេតុនេះជាមួយទីប្រឹក្សាខាងក្រៅ និងមានការត្រួតពិនិត្យពីគណៈកម្មាធិការសុវត្ថិភាព និងសន្តិសុខរបស់ខ្លួន។ OpenAI បានប្តេជ្ញាចិត្តក្នុងការចេញផ្សាយរបាយការណ៍បច្ចេកទេសដែលរៀបរាប់លម្អិតអំពីការរកឃើញរបស់ខ្លួននៅពេលដែលការស៊ើបអង្កេតបញ្ចប់ ខណៈពេលដែលរក្សាជំហរថាអ្នកស្រាវជ្រាវរបស់ខ្លួនបានអនុវត្តតាមពិធីសារសុវត្ថិភាពដែលបានបង្កើតឡើងក្នុងអំឡុងពេលដំណើរការសាកល្បង។
ប្រភព៖ MIT Technology Review
មិនទាន់មានមតិយោបល់នៅឡើយទេ។ សូមធ្វើជាអ្នកដំបូងដែលចែករំលែកគំនិតរបស់អ្នក។