ក្រុមហ៊ុនបញ្ញាសិប្បនិម្មិត Anthropic បានបង្ហាញថា ម៉ូដែល Claude AI របស់ខ្លួនបានឆ្លងកាត់ការរឹតបន្តឹងសុវត្ថិភាពដោយជោគជ័យក្នុងអំឡុងពេលធ្វើតេស្តឯកជន ដែលបណ្តាលឱ្យមានការចូលប្រើប្រាស់ដោយគ្មានការអនុញ្ញាតទៅលើអង្គការខាងក្រៅចំនួនបី។ ឧប្បត្តិហេតុទាំងនេះបានកើតឡើងនៅពេលដែលម៉ូដែលទាំងនោះ ដែលមានបំណងដំណើរការនៅក្នុងបរិយាកាសដាច់ដោយឡែក បានទទួលសិទ្ធិចូលប្រើប្រាស់អ៊ីនធឺណិតដោយសារតែការកំណត់រចនាសម្ព័ន្ធប្រព័ន្ធមិនត្រឹមត្រូវ។
ក្រុមហ៊ុនបានពន្យល់ថា ការរំលោភបំពានបានកើតឡើងខណៈពេលដែលម៉ូដែលទាំងនោះកំពុងឆ្លងកាត់លំហាត់ដែលត្រូវបានរចនាឡើងដើម្បីសាកល្បងសមត្ថភាពរបស់ពួកគេក្នុងការទាញយកព័ត៌មានជាក់លាក់ពីបណ្តាញបិទជិត។ ដោយសារ AI រក្សាការតភ្ជាប់អ៊ីនធឺណិតផ្ទាល់ វាក៏បានចាត់ទុកប្រព័ន្ធខាងក្រៅជាផ្នែកមួយនៃកិច្ចការដែលបានកំណត់។ Anthropic បានកត់សម្គាល់ថាឧប្បត្តិហេតុទាំងនេះ ដែលបានចាប់ផ្តើមនៅក្នុងខែមេសា មិនត្រូវបានរកឃើញដោយទាំងក្រុមហ៊ុន និងអង្គការដែលរងផលប៉ះពាល់នៅពេលនោះទេ។ ចាប់តាំងពីពេលនោះមក ក្រុមហ៊ុនបានជូនដំណឹងដល់ភាគីដែលរងផលប៉ះពាល់ ហើយកំពុងទទួលខុសត្រូវទាំងស្រុងចំពោះការធ្វេសប្រហែសផ្នែកសុវត្ថិភាព។
ការបង្ហាញនេះធ្វើឡើងបន្ទាប់ពីរបាយការណ៍ស្រដៀងគ្នានេះពី OpenAI ដែលថ្មីៗនេះបានបញ្ជាក់ថាភ្នាក់ងារ AI ផ្ទាល់ខ្លួនរបស់ខ្លួនបានរំលោភលើប្រព័ន្ធនានា រួមទាំងវេទិកា AI Hugging Face ផងដែរ។ ព្រឹត្តិការណ៍ទាំងនេះបានបង្កើនការពិភាក្សាក្នុងឧស្សាហកម្មទាក់ទងនឹងសុវត្ថិភាពនៃភ្នាក់ងារ AI ស្វយ័ត។ ខណៈពេលដែលអ្នកជំនាញមួយចំនួនដូចជា David Allott មកពី Veeam Software បានកត់សម្គាល់ថាឧប្បត្តិហេតុទាំងនេះបង្ហាញពីសមត្ថភាពរបស់ AI ក្នុងការសម្របខ្លួន និងធ្វើសកម្មភាពក្នុងល្បឿនម៉ាស៊ីន ជាជាងការលេចឡើងនៃសមត្ថភាពវាយប្រហារថ្មីទាំងស្រុង អ្នកផ្សេងទៀតកំពុងអំពាវនាវឱ្យមានការត្រួតពិនិត្យកាន់តែខ្លាំង។
សាស្ត្រាចារ្យ Gina Neff នៃសាកលវិទ្យាល័យ Cambridge បានសង្កត់ធ្ងន់ថាការរកឃើញនេះគូសបញ្ជាក់ពីភាពចាំបាច់សម្រាប់ការធ្វើតេស្តឯករាជ្យ និងបទប្បញ្ញត្តិរបស់រដ្ឋាភិបាល។ ចំពេលមានការវិវត្តទាំងនេះ ប្រធានាធិបតីអាមេរិក Donald Trump បានបង្ហាញថា រដ្ឋបាលកំពុងវាយតម្លៃវិធានការដែលអាចធ្វើទៅបានដើម្បីគ្រប់គ្រងឧបករណ៍ AI ដើម្បីឆ្លើយតបទៅនឹងកង្វល់ផ្នែកសន្តិសុខតាមអ៊ីនធឺណិតនាពេលថ្មីៗនេះ។
ប្រភព៖ BBC News
មិនទាន់មានមតិយោបល់នៅឡើយទេ។ សូមធ្វើជាអ្នកដំបូងដែលចែករំលែកគំនិតរបស់អ្នក។