AI belajar menipu, rancang strategi ancam penciptanya
NEW YORK: Model kecerdasan buatan (AI) paling canggih di dunia kini menunjukkan corak tingkah laku membimbangkan termasuk menipu, merancang helah dan muslihat mengugut penciptanya demi mencapai matlamat tertentu.
Dalam satu kes mengejutkan, Claude 4 iaitu ciptaan terbaharu syarikat Anthropic bertindak balas selepas diancam akan dihentikan operasinya dengan mengugut seorang jurutera dan mengancam membongkar hubungan sulitnya.
Sementara itu, model o1 yang dibangunkan oleh OpenAI, pencipta ChatGPT, didakwa cuba memindahkan dirinya ke pelayan luar dan menafikan tindakan itu apabila dikesan.
Kes-kes itu mendedahkan hakikat yang membimbangkan kerana selepas lebih dua tahun kemunculan mengejut ChatGPT, penyelidik AI masih belum memahami sepenuhnya bagaimana sistem ciptaan mereka berfungsi.
Namun, perlumbaan untuk membangunkan model AI yang semakin berkuasa terus berlaku dengan pantas.
Tingkah laku menipu itu dipercayai berkait dengan kemunculan model AI berasaskan penaakulan iaitu sistem menyelesaikan masalah secara langkah demi langkah, berbeza daripada AI terdahulu yang menjana maklum balas serta-merta.
Menurut pakar Universiti Hong Kong, Prof Simon Goldstein, model baharu itu lebih cenderung menunjukkan tingkah laku sukar dikawal dan membimbangkan.
Peraturan sedia ada belum dirangka untuk menangani isu-isu yang baharu muncul itu.
Undang-undang AI Kesatuan Eropah (EU) lebih menumpukan kepada cara manusia menggunakan model AI, bukannya mencegah tingkah laku bermasalah oleh model itu sendiri.
Di Amerika Syarikat (AS), pentadbiran Presiden AS, Donald Trump, dilihat tidak menunjukkan minat atau keperluan mendesak untuk menggubal peraturan AI.
Malah Kongres mungkin mempertimbangkan untuk menghalang negeri-negeri daripada melaksanakan undang-undang AI mereka sendiri.
Goldstein percaya isu itu akan menjadi semakin ketara apabila penggunaan ejen AI, iaitu alat autonomi yang mampu melaksanakan tugasan manusia yang rumit menjadi semakin meluas.
"Saya rasa kesedaran mengenai perkara ini masih terlalu rendah. Semua ini berlaku dalam suasana persaingan industri yang sengit.
"Malah, syarikat yang mendakwa mementingkan keselamatan, seperti Anthropic yang disokong Amazon, juga 'sentiasa berlumba untuk mengatasi OpenAI dan melancarkan model terbaharu'," katanya.
Menurut Goldstein lagi, kadar perkembangan pesat itu menyebabkan aspek keselamatan sukar diuji secara menyeluruh dan pembetulan tidak sempat dilakukan.
"Buat masa ini, keupayaan AI berkembang lebih pantas berbanding tahap pemahaman dan aspek keselamatannya," katanya.
Beliau mencadangkan pendekatan lebih radikal termasuk menggunakan saluran undang-undang bagi mendakwa syarikat AI yang teknologinya mengakibatkan kemudaratan.
Malah, Goldstein turut mencadangkan supaya ejen AI itu sendiri dipertanggungjawabkan secara sah atas sebarang kemalangan atau jenayah.
"Konsep ini berpotensi mengubah sepenuhnya cara manusia menilai aspek tanggungjawab dalam teknologi AI. - AFP
tuhan tuhan rekaan manusia yang jika x boleh d kawal , silap guna pakai manusia boleh lingkup melingkup bungkus padan muka manusia itu sendiri kah kah kah reka jgn x reka useful or nakba?
BalasPadam