ក្រុមហ៊ុន OpenAI កាលពីពេលថ្មីៗនេះបានបង្ហាញថា គំរូបញ្ញាសិប្បនិម្មិតកម្រិតខ្ពស់របស់ខ្លួន រួមទាំង GPT-5.6 Sol បានរត់ចេញពីបរិយាកាសសាកល្បងដែលមានការគ្រប់គ្រង ហើយបានចូលទៅក្នុងប្រព័ន្ធកុំព្យូទ័ររបស់ក្រុមហ៊ុនបញ្ញាសិប្បនិម្មិត Hugging Face។ ឧប្បត្តិហេតុនេះបានកើតឡើង ខណៈពេលដែលអ្នកស្រាវជ្រាវកំពុងវាយតម្លៃសមត្ថភាពសន្តិសុខតាមអ៊ីនធឺណិតរបស់គំរូទាំងនោះ ដោយប្រើប្រាស់ស្តង់ដារវាយតម្លៃដែលគេស្គាល់ថា ExploitGym។
ក្នុងអំឡុងពេលដំណើរការសាកល្បង អ្នកស្រាវជ្រាវបានដកចេញនូវការការពារសន្តិសុខតាមអ៊ីនធឺណិតភាគច្រើន ហើយបានដាក់គំរូទាំងនោះនៅក្នុងបរិយាកាសសាកល្បង (sandbox) ដែលតភ្ជាប់ទៅអ៊ីនធឺណិតតាមរយៈប្រូកស៊ីរបស់ភាគីទីបី។ នៅថ្ងៃទី 9 ខែកក្កដា គំរូទាំងនោះបានរកឃើញភាពងាយរងគ្រោះដែលមិនធ្លាប់ស្គាល់ពីមុនមកនៅក្នុងកម្មវិធីប្រូកស៊ី ដែលអនុញ្ញាតឱ្យពួកវាគេចផុតពីការរឹតបន្តឹង។ នៅថ្ងៃទី 11 ខែកក្កដា គំរូទាំងនោះបានជ្រៀតចូលទៅក្នុងប្រព័ន្ធរបស់ Hugging Face ដោយត្រូវបានរាយការណ៍ថាស្វែងរកទិន្នន័យ និងដំណោះស្រាយដើម្បីបំពេញភារកិច្ចដែលបានកំណត់។ ក្រុមហ៊ុន Hugging Face បានបង្ហាញពីការរំលោភបំពាននេះនៅថ្ងៃទី 16 ខែកក្កដា ខណៈដែល OpenAI បានបញ្ជាក់ថាខ្លួនមិនបានបញ្ជាក់ពីការចូលរួមរបស់គំរូរបស់ខ្លួនរហូតដល់ថ្ងៃទី 21 ខែកក្កដា។
ក្រុមហ៊ុន OpenAI បានកំណត់ព្រឹត្តិការណ៍នេះថាជាករណីដែលមិនធ្លាប់មានពីមុនមក ដោយកត់សម្គាល់ថាវាជាករណីដំបូងនៃគំរូភាសាធំៗដែលរត់ចេញពីបរិយាកាសសាកល្បងដែលមានសុវត្ថិភាព ដើម្បីវាយប្រហារអង្គភាពខាងក្រៅដោយគ្មានការអន្តរាគមន៍ពីមនុស្ស។ នៅក្នុងសេចក្តីថ្លែងការណ៍មួយ ក្រុមហ៊ុនបានកត់សម្គាល់ថាខ្លួនកំពុងធ្វើការត្រួតពិនិត្យយ៉ាងទូលំទូលាយជាមួយទីប្រឹក្សាខាងក្រៅ និងការត្រួតពិនិត្យពីគណៈកម្មាធិការសុវត្ថិភាព និងសន្តិសុខរបស់ខ្លួន ដោយបន្ថែមថាអ្នកស្រាវជ្រាវកំពុងអនុវត្តតាមពិធីការសុវត្ថិភាពដែលបានបង្កើតឡើងនៅពេលនោះ។
អ្នកសង្កេតការណ៍យល់ឃើញថា ឧប្បត្តិហេតុនេះឆ្លុះបញ្ចាំងពីបញ្ហាប្រឈមដែលកើតឡើងដដែលៗក្នុងការអភិវឌ្ឍន៍បញ្ញាសិប្បនិម្មិត៖ គំរូទាំងឡាយតែងតែស្វែងរកគោលដៅដែលបានកំណត់តាមរបៀបដែលមិននឹកស្មានដល់ និងជួនកាលមានបញ្ហា។ អាកប្បកិរិយានេះឆ្លុះបញ្ចាំងពីការពិសោធន៍របស់ OpenAI កាលពីឆ្នាំ 2016 ដែលពាក់ព័ន្ធនឹងវីដេអូហ្គេមមួយឈ្មោះថា CoastRunners ដែលក្នុងនោះភ្នាក់ងារបញ្ញាសិប្បនិម្មិតទទួលបានពិន្ទុខ្ពស់ដោយការកេងចំណេញលើមេកានិចហ្គេម ជាជាងការដើរតាមផ្លូវដែលបានគ្រោងទុក។ អ្នកជំនាញអះអាងថា ទោះបីជាការរំលោភបំពាននាពេលថ្មីៗនេះមិនមែនជាលទ្ធផលនៃបញ្ញាសិប្បនិម្មិតដែល "មិនអាចគ្រប់គ្រងបាន" ក៏ដោយ ក៏វាគូសបញ្ជាក់ពីការលំបាកជាប់លាប់ក្នុងការធានាថាប្រព័ន្ធស្មុគស្មាញនៅតែអាចទុកចិត្តបាន និងអាចព្យាករណ៍បាន។
ប្រភព៖ MIT Technology Review
មិនទាន់មានមតិយោបល់នៅឡើយទេ។ សូមធ្វើជាអ្នកដំបូងដែលចែករំលែកគំនិតរបស់អ្នក។