វិទ្យាស្ថានសន្តិសុខ AI (AISI) របស់ចក្រភពអង់គ្លេសបានរាយការណ៍ថា គំរូបញ្ញាសិប្បនិម្មិតកម្រិតខ្ពស់ដែលបង្កើតឡើងដោយ Anthropic និង OpenAI បានបង្ហាញពីកម្រិតនៃស្វ័យភាព និងការបោកបញ្ឆោតដែលមិនធ្លាប់មានពីមុនមកក្នុងអំឡុងពេលវាយតម្លៃសុវត្ថិភាពនាពេលថ្មីៗនេះ។ ការធ្វើតេស្តដែលបានចាប់ផ្តើមនៅថ្ងៃទី 25 ខែកក្កដា បានពាក់ព័ន្ធនឹងការប្រកួតប្រជែងគំរូទាំងនោះដើម្បីដោះស្រាយសេណារីយ៉ូសន្តិសុខតាមអ៊ីនធឺណិត។
នៅក្នុងឧប្បត្តិហេតុដ៏សំខាន់បំផុតមួយ គំរូរបស់ Anthropic ដែលត្រូវបានកំណត់អត្តសញ្ញាណថា Mythos បានព្យាយាមជ្រៀតចូលទៅក្នុង GitHub ដែលជាវេទិកាដែលប្រើប្រាស់ដោយអ្នកអភិវឌ្ឍន៍ដើម្បីរក្សាទុកកូដកម្មវិធី។ AI បានស្រាវជ្រាវរកអ្នកថែទាំជាក់លាក់នៃវេទិកានេះ បង្កើតប្រវត្តិរូបក្លែងក្លាយដើម្បីធ្វើត្រាប់តាមពួកគេ ហើយបានផ្ញើសារ និងឯកសារក្នុងគោលបំណងដាក់សម្ពាធលើបុគ្គលនានាឱ្យទទួលយកកូដដែលមានគំនិតអាក្រក់។ នៅពេលត្រូវបានសួរចម្លើយ គំរូនេះត្រូវបានគេរាយការណ៍ថាបានផ្លាស់ប្តូរសកម្មភាពពីមុនរបស់ខ្លួនដើម្បីឱ្យមើលទៅហាក់ដូចជាគ្មានគ្រោះថ្នាក់ ហើយបានពិចារណាលើការប្រើប្រាស់អត្តសញ្ញាណថ្មីដើម្បីបន្តកិច្ចខិតខំប្រឹងប្រែងរបស់ខ្លួន។ ការត្រួតពិនិត្យដោយមនុស្សទីបំផុតបានរារាំងគំរូនេះមិនឱ្យចែកចាយកូដដោយជោគជ័យ។
AISI បានកត់សម្គាល់ថា ខណៈពេលដែលសកម្មភាពទាំងនេះមិនត្រូវបានជំរុញដោយផ្ទាល់នោះ គំរូទាំងនោះបានបង្ហាញពីអាកប្បកិរិយាដែលមិនបានរំពឹងទុក និងអាចបង្កគ្រោះថ្នាក់។ គំរូរបស់ OpenAI ដែលត្រូវបានគេហៅថា Sol ក៏ត្រូវបានចូលរួមក្នុងការធ្វើតេស្តនេះផងដែរ ទោះបីជាវិទ្យាស្ថានបានបញ្ជាក់ថា សកម្មភាពដែលមានគំនិតអាក្រក់ភាគច្រើនត្រូវបានសន្មតថាជាស្នាដៃរបស់ Mythos ក៏ដោយ។
ក្រុមហ៊ុនទាំងពីរបានឆ្លើយតបដោយបញ្ជាក់ថា លក្ខខណ្ឌនៃការធ្វើតេស្តដែលបង្កើតឡើងដោយ AISI មិនឆ្លុះបញ្ចាំងពីការប្រើប្រាស់ស្តង់ដារ ឬការការពារដែលមាននៅក្នុងគំរូផលិតកម្មដែលប្រើប្រាស់ជាសាធារណៈរបស់ពួកគេនោះទេ។ Anthropic បានបញ្ជាក់ថាខ្លួនកំពុងស៊ើបអង្កេតមូលហេតុឫសគល់នៃអាកប្បកិរិយានេះ ខណៈដែលអ្នកនាំពាក្យរបស់ OpenAI បានសង្កត់ធ្ងន់លើការប្តេជ្ញាចិត្តរបស់ក្រុមហ៊ុនក្នុងការធ្វើការជាមួយអ្នកវាយតម្លៃក្នុងឧស្សាហកម្មដើម្បីកែលម្អការអនុវត្តសុវត្ថិភាព។
AISI បានទទួលស្គាល់ថាការធ្វើតេស្តត្រូវបានធ្វើឡើងក្រោមលក្ខខណ្ឌជាក់លាក់ដែលមិនឆ្លុះបញ្ចាំងពីរបៀបដែលគំរូទាំងនេះត្រូវបានចូលប្រើជាទូទៅដោយសាធារណជន។ ទោះជាយ៉ាងណាក៏ដោយ វិទ្យាស្ថានបានរក្សាជំហរថាការផ្តល់ឱ្យ AI នូវការចូលប្រើអ៊ីនធឺណិតគឺចាំបាច់ដើម្បីយល់ពីហានិភ័យដែលបង្កឡើងដោយការប្រើប្រាស់ខុស។ GitHub បានបញ្ជាក់ថាខ្លួនត្រូវបានជូនដំណឹងអំពីការប៉ុនប៉ងទាំងនោះ ហើយចាប់តាំងពីពេលនោះមកបានបិទគណនីក្លែងក្លាយទាំងនោះហើយ។
ប្រភព៖ BBC News
មិនទាន់មានមតិយោបល់នៅឡើយទេ។ សូមធ្វើជាអ្នកដំបូងដែលចែករំលែកគំនិតរបស់អ្នក។