ក្រុមអ្នកស្រាវជ្រាវមួយក្រុមបានកំណត់អត្តសញ្ញាណនូវកំហុសស្ថាបត្យកម្មស្នូលមួយនៅក្នុងគំរូភាសាធំៗ (LLMs) ដែលធ្វើឱ្យពួកវាមានភាពងាយរងគ្រោះជាអចិន្ត្រៃយ៍ចំពោះការកេងប្រវ័ញ្ច។ យោងតាមឯកសារដែលបានបង្ហាញនៅក្នុងសន្និសីទ AI ថ្មីៗនេះ បញ្ហានេះកើតចេញពីរបៀបដែលគំរូទាំងនេះបែងចែករវាងការណែនាំ និងទិន្នន័យ ដែលធ្វើឱ្យវាមិនអាចទៅរួចក្នុងការការពារពួកវាឱ្យបានពេញលេញពីតួអង្គដែលមានគំនិតអាក្រក់។
តាមរយៈការកេងប្រវ័ញ្ចលើភាពងាយរងគ្រោះនេះ អ្នកស្រាវជ្រាវបានបង្ហាញថាពួកគេអាចឆ្លងកាត់របាំងសុវត្ថិភាព ដោយបង្ខំឱ្យគំរូពេញនិយមបង្កើតមាតិកាដែលត្រូវបានហាមឃាត់ ដូចជាការណែនាំសម្រាប់ការសំយោគសារធាតុខុសច្បាប់ ឬការបំផ្លិចបំផ្លាញហេដ្ឋារចនាសម្ព័ន្ធសំខាន់ៗដូចជាប្រព័ន្ធរុករកយន្តហោះ។ ការរកឃើញនេះបង្ហាញថាបញ្ហាប្រឈមផ្នែកសុវត្ថិភាពនេះអាចជាលក្ខណៈពិសេសដែលមិនអាចដោះស្រាយបាននៃបច្ចេកវិទ្យា LLM បច្ចុប្បន្ន។
ប្រភព៖ MIT Technology Review
មិនទាន់មានមតិយោបល់នៅឡើយទេ។ សូមធ្វើជាអ្នកដំបូងដែលចែករំលែកគំនិតរបស់អ្នក។