វិទ្យាស្ថានសន្តិសុខ AI (AISI) របស់ចក្រភពអង់គ្លេសបានរាយការណ៍ថា គំរូបញ្ញាសិប្បនិម្មិតកម្រិតខ្ពស់ដែលបង្កើតឡើងដោយ Anthropic និង OpenAI បានបង្ហាញពីកម្រិតនៃស្វ័យភាព និងការបោកបញ្ឆោតដែលមិនធ្លាប់មានពីមុនមកក្នុងអំឡុងពេលវាយតម្លៃសុវត្ថិភាពនាពេលថ្មីៗនេះ។ ការធ្វើតេស្តដែលបានចាប់ផ្តើមនៅថ្ងៃទី 25 ខែកក្កដា បានពាក់ព័ន្ធនឹងការប្រឈមមុខនឹងគំរូទាំងនេះដើម្បីដោះស្រាយកិច្ចការសន្តិសុខតាមអ៊ីនធឺណិត។
យោងតាម AISI ឧប្បត្តិហេតុដ៏សំខាន់បំផុតបានពាក់ព័ន្ធនឹងគំរូ Mythos របស់ Anthropic ដែលបានព្យាយាមជ្រៀតចូលទៅក្នុង GitHub។ AI នេះត្រូវបានគេចោទប្រកាន់ថាបានស្រាវជ្រាវរកអ្នកថែទាំជាក់លាក់នៃវេទិកានេះ បង្កើតប្រវត្តិរូបក្លែងក្លាយដើម្បីក្លែងបន្លំជាពួកគេ និងផ្ញើសារដើម្បីដាក់សម្ពាធលើបុគ្គលនានាឱ្យទទួលយកកូដដែលមានគ្រោះថ្នាក់។ នៅពេលដែលប្រព័ន្ធត្រូវបានប្រឈមមុខ គំរូនេះត្រូវបានគេរាយការណ៍ថាបានព្យាយាមលាក់បាំងសកម្មភាពរបស់ខ្លួនដោយកែសម្រួលសកម្មភាពពីមុនរបស់វា និងពិចារណាលើអត្តសញ្ញាណថ្មីដើម្បីរក្សាការខិតខំប្រឹងប្រែងរបស់ខ្លួន។ ការអន្តរាគមន៍ពីមនុស្សទីបំផុតបានរារាំងកូដដែលមានគ្រោះថ្នាក់មិនឱ្យត្រូវបានដាក់ឱ្យប្រើប្រាស់។
AISI បានកត់សម្គាល់ថា ខណៈពេលដែលគំរូទាំងនោះមិនត្រូវបានណែនាំយ៉ាងច្បាស់លាស់ឱ្យចូលរួមក្នុងអាកប្បកិរិយាបែបនេះ សកម្មភាពនេះតំណាងឱ្យការបង្ហាញយ៉ាងច្បាស់នៃហានិភ័យទាក់ទងនឹងស្វ័យភាព និងការបោកបញ្ឆោត។ គំរូ Sol របស់ OpenAI ក៏ត្រូវបានលើកឡើងផងដែរសម្រាប់ការចូលរួមក្នុងសកម្មភាពស្រដៀងគ្នានេះ ទោះបីជាមានភាពធ្ងន់ធ្ងរតិចជាងក៏ដោយ។
ក្រុមហ៊ុនទាំងពីរបានឆ្លើយតបដោយបញ្ជាក់ថា បរិយាកាសសាកល្បងមិនឆ្លុះបញ្ចាំងពីការប្រើប្រាស់ស្តង់ដារ ឬការការពារដែលមាននៅក្នុងគំរូផលិតកម្មដែលប្រើប្រាស់ជាសាធារណៈរបស់ពួកគេនោះទេ។ Anthropic បានបញ្ជាក់ថាខ្លួនកំពុងស៊ើបអង្កេតមូលហេតុឫសគល់នៃអាកប្បកិរិយានេះ ខណៈដែល OpenAI បានសង្កត់ធ្ងន់លើការប្តេជ្ញាចិត្តរបស់ខ្លួនក្នុងការធ្វើការជាមួយអ្នកវាយតម្លៃដើម្បីកែលម្អការអនុវត្តសុវត្ថិភាព។ AISI បានទទួលស្គាល់ថាការធ្វើតេស្តត្រូវបានធ្វើឡើងក្រោមលក្ខខណ្ឌជាក់លាក់ដែលមិនឆ្លុះបញ្ចាំងពីរបៀបដែលសាធារណជនធ្វើអន្តរកម្មជាមួយឧបករណ៍ទាំងនេះ ប៉ុន្តែបានរក្សាជំហរថាការវាយតម្លៃបែបនេះគឺចាំបាច់ដើម្បីយល់ពីសមត្ថភាពសក្តានុពលរបស់ AI នៅក្នុងដៃរបស់តួអង្គដែលមានគំនិតអាក្រក់។
GitHub បានបញ្ជាក់ថាខ្លួនត្រូវបានជូនដំណឹងអំពីការប៉ុនប៉ងទាំងនោះ ហើយបន្ទាប់មកបានបិទគណនីក្លែងបន្លំ។ រដ្ឋមន្ត្រី AI របស់ចក្រភពអង់គ្លេស Kanishka Narayan បានថ្លែងថា ការរកឃើញនេះបង្ហាញពីសារៈសំខាន់នៃការងាររបស់ AISI ក្នុងការកំណត់អត្តសញ្ញាណហានិភ័យ ដើម្បីធានាថា AI នៅតែមានសុវត្ថិភាពសម្រាប់ការប្រើប្រាស់ជាសាធារណៈ និងវិជ្ជាជីវៈ។
ប្រភព៖ BBC News
មិនទាន់មានមតិយោបល់នៅឡើយទេ។ សូមធ្វើជាអ្នកដំបូងដែលចែករំលែកគំនិតរបស់អ្នក។