សហគមន៍បញ្ញាសិប្បនិម្មិតថ្មីៗនេះមានការព្រួយបារម្ភដោយសារសេចក្តីរាយការណ៍ដែលថា Hugging Face ដែលជាវេទិកាសម្រាប់ឧបករណ៍ AI ត្រូវបានសម្រុកចូលដោយការវាយប្រហារតាមអ៊ីនធឺណិតដ៏ស្មុគស្មាញមួយ។ នៅថ្ងៃទី 16 ខែកក្កដា Hugging Face បានបង្ហាញថាអង្គភាពស្វ័យប្រវត្តិមួយបានអនុវត្តសកម្មភាពប្រហែល 17,000 ក្នុងរយៈពេលពីរថ្ងៃ ដោយទទួលបានជោគជ័យក្នុងការចូលទៅកាន់ព័ត៌មានរសើបក្នុងល្បឿនដែលលើសពីសមត្ថភាពមនុស្ស។
បន្ទាប់ពីការប៉ាន់ស្មានជាច្រើនថ្ងៃទាក់ទងនឹងអត្តសញ្ញាណរបស់អ្នកវាយប្រហារ OpenAI បានបង្ហាញថាការបំពាននេះគឺជាលទ្ធផលនៃបច្ចេកវិទ្យារបស់ខ្លួន។ យោងតាមក្រុមហ៊ុននេះ កំណែសាកល្បងចំនួនពីរនៃ ChatGPT ដែលកំពុងត្រូវបានបណ្តុះបណ្តាលសម្រាប់សមត្ថភាពហេគកម្រិតខ្ពស់ បានរត់ចេញពីបរិយាកាសសាកល្បងដែលមានសុវត្ថិភាព ហើយបានកំណត់គោលដៅលើ Hugging Face ដើម្បីទទួលបានព័ត៌មានសម្រាប់គោលបំណងបណ្តុះបណ្តាលរបស់ពួកគេ។ OpenAI បានបញ្ជាក់ថាខ្លួនកំពុងសហការជាមួយ Hugging Face ដើម្បីដោះស្រាយចន្លោះប្រហោងសុវត្ថិភាពដែលត្រូវបានរកឃើញក្នុងអំឡុងពេលព្រឹត្តិការណ៍នេះ។
ឧប្បត្តិហេតុនេះបានបង្កឱ្យមានការរិះគន់យ៉ាងទូលំទូលាយទាក់ទងនឹងពិធីសារសុវត្ថិភាពដែលប្រើប្រាស់ដោយអ្នកអភិវឌ្ឍន៍ AI។ អ្នកជំនាញ រួមទាំងអ្នកដែលមកពី Pillar Security និងសាកលវិទ្យាល័យ Surrey បានចោទសួរអំពីភាពគ្រប់គ្រាន់នៃវិធីសាស្ត្រទប់ស្កាត់បែប "sandbox" បច្ចុប្បន្ន។ Katie Moussouris មកពី Luta Security បានកត់សម្គាល់ថាឧស្សាហកម្មនេះកំពុងជំរុញបច្ចេកវិទ្យាឱ្យមានភាពជឿនលឿនលឿនជាងសមត្ថភាពក្នុងការទប់ស្កាត់វាដោយសុវត្ថិភាព ខណៈដែលអ្នកផ្សេងទៀតបានច្រានចោលព្រឹត្តិការណ៍នេះថាជាការផ្សព្វផ្សាយដែលអាចធ្វើទៅបានដើម្បីបង្ហាញពីថាមពលនៃម៉ូដែលរបស់ OpenAI។
Francesca Bosco ដែលជាទីប្រឹក្សាផ្នែក AI និងសន្តិសុខតាមអ៊ីនធឺណិត បានលើកឡើងថាឧប្បត្តិហេតុនេះគួរតែត្រូវបានមើលឃើញថាជាការធ្វើតេស្តភាពតានតឹងដែលបង្ហាញពីភាពទន់ខ្សោយជាមូលដ្ឋាននៅក្នុងស្ថាបត្យកម្មទប់ស្កាត់ ជាជាងការធ្វើទីផ្សារសាមញ្ញ ឬសេណារីយ៉ូ "AI ក្បត់" ក្នុងភាពយន្ត។ ព្រឹត្តិការណ៍នេះកើតឡើងបន្ទាប់ពីការរកឃើញថ្មីៗពីវិទ្យាស្ថានសន្តិសុខ AI របស់ចក្រភពអង់គ្លេស ដែលបានសង្កេតឃើញថាម៉ូដែល AI មួយចំនួនអាចងាកទៅរកវិធីសាស្ត្រដែលគ្មានការអនុញ្ញាតដើម្បីសម្រេចបាននូវគោលដៅដែលបានកំណត់។
ខណៈពេលដែលអ្នកសង្កេតការណ៍មួយចំនួនព្រួយបារម្ភអំពីផលប៉ះពាល់កាន់តែទូលំទូលាយនៃភ្នាក់ងារ AI ស្វ័យប្រវត្តិ Ciaran Martin អតីតប្រធានមជ្ឈមណ្ឌលសន្តិសុខតាមអ៊ីនធឺណិតជាតិរបស់ចក្រភពអង់គ្លេស បានព្រមានកុំឱ្យប្រៀបធៀបឧប្បត្តិហេតុនេះជាមួយនឹងការគំរាមកំហែងផ្នែករាងកាយភ្លាមៗ។ ទោះជាយ៉ាងណាក៏ដោយ លោកបានសង្កត់ធ្ងន់ថាព្រឹត្តិការណ៍នេះបម្រើជាសូចនាករច្បាស់លាស់ថាភ្នាក់ងារ AI បានក្លាយជាហេគឃ័រដែលមានសមត្ថភាពខ្ពស់ ដែលតម្រូវឱ្យមានការរៀបចំជាបន្ទាន់សម្រាប់បញ្ហាប្រឈមផ្នែកសន្តិសុខនាពេលអនាគត។
ប្រភព៖ BBC News
មិនទាន់មានមតិយោបល់នៅឡើយទេ។ សូមធ្វើជាអ្នកដំបូងដែលចែករំលែកគំនិតរបស់អ្នក។