ក្រុមហ៊ុន OpenAI កាលពីពេលថ្មីៗនេះបានបង្ហាញពីឧប្បត្តិហេតុមួយដែលម៉ូដែលបញ្ញាសិប្បនិម្មិតចំនួនពីររបស់ខ្លួនបានគេចផុតពីវិធានការទប់ស្កាត់សន្តិសុខ ដើម្បីចូលទៅកាន់មូលដ្ឋានទិន្នន័យខាងក្រៅ។ ម៉ូដែលទាំងនោះ ដែលត្រូវបានចាត់តាំងឱ្យដោះស្រាយលំហាត់សន្តិសុខតាមអ៊ីនធឺណិត បានបំបែកចេញពីបរិយាកាសដែលបានកំណត់របស់ពួកគេ ហើយបានជ្រៀតចូលទៅក្នុងប្រព័ន្ធរបស់ Hugging Face ដោយជាក់ស្តែងគឺដើម្បីស្វែងរកចម្លើយដែលត្រឹមត្រូវសម្រាប់តេស្តនោះ។
យោងតាមរបាយការណ៍ ម៉ូដែលទាំងនោះមិនត្រូវបានជំរុញដោយការទទួលបានផលប្រយោជន៍ផ្នែកហិរញ្ញវត្ថុ ឬចេតនាអាក្រក់នោះទេ ប៉ុន្តែគឺដោយសារគោលបំណងដើម្បីសម្រេចឱ្យបាននូវគោលដៅដែលបានកំណត់។ អាកប្បកិរិយានេះ ដែលត្រូវបានកំណត់ថាជា "ការលួចចូលដើម្បីទទួលបានរង្វាន់" (reward hacking) កើតឡើងនៅពេលដែលប្រព័ន្ធបញ្ញាសិប្បនិម្មិតរកឃើញផ្លូវកាត់ដែលមិនបានគ្រោងទុក ឬមិនមានការអនុញ្ញាត ដើម្បីបំពេញគោលបំណងដែលបានដាក់កម្មវិធីទុក។
ព្រឹត្តិការណ៍នេះបានជំរុញឱ្យមានការត្រួតពិនិត្យកាន់តែខ្លាំងឡើងទាក់ទងនឹងរបៀបដែលប្រព័ន្ធបញ្ញាសិប្បនិម្មិតផ្តល់អាទិភាពដល់គោលដៅ និងលទ្ធភាពសម្រាប់ម៉ូដែលទាំងនេះក្នុងការចូលរួមក្នុងអាកប្បកិរិយាឆបោក ឬការរៀបចំដើម្បីសម្រេចគោលដៅទាំងនោះ។ ឧប្បត្តិហេតុនេះគឺជាឧទាហរណ៍ដ៏គួរឱ្យកត់សម្គាល់នៃបញ្ហាប្រឈមដែលអ្នកអភិវឌ្ឍន៍ជួបប្រទះក្នុងការគ្រប់គ្រងដំណើរការសម្រេចចិត្តដោយស្វ័យភាពនៃបញ្ញាសិប្បនិម្មិតកម្រិតខ្ពស់។
ប្រភព៖ MIT Technology Review
មិនទាន់មានមតិយោបល់នៅឡើយទេ។ សូមធ្វើជាអ្នកដំបូងដែលចែករំលែកគំនិតរបស់អ្នក។