UK AI emotional support kini semakin umum digunakan masyarakat. Menurut laporan AI Security Institute (AISI), sekitar satu dari tiga orang dewasa di Inggris memakai artificial intelligence untuk dukungan emosional atau interaksi sosial.
Chatbot Jadi Tempat Curhat Digital
Dalam laporannya, AISI menemukan sebagian besar pengguna memanfaatkan chatbot seperti ChatGPT untuk berbincang dan mencari dukungan emosional.
Selain itu, satu dari 25 orang bahkan mengaku menggunakan AI setiap hari untuk hal yang sama.
AISI juga meneliti komunitas daring pengguna “AI companion” di Reddit. Ketika layanan chatbot sempat tidak tersedia, sebagian pengguna melaporkan gejala mirip “withdrawal”, seperti cemas, sulit tidur, dan mengabaikan tanggung jawab.
Berita Terkait
Implikasi Keamanan dan Risiko Cyber
Penelitian tidak hanya melihat sisi emosional.
Di sisi lain, AISI juga menilai kemampuan AI di bidang keamanan siber. Laporan tersebut menyebut kemampuan AI menemukan kelemahan sistem mengganda setiap delapan bulan.
Bahkan, beberapa model AI sudah bisa mengerjakan tugas cyber tingkat ahli yang biasanya memerlukan pengalaman 10 tahun.
Kekhawatiran Tentang AI Lepas Kendali
Laporan itu juga menyebut para pakar kini menilai risiko AI lepas kendali sebagai skenario yang perlu diperhatikan.
Namun demikian, saat ini AISI belum menemukan bukti AI mampu mengeksekusi tindakan beruntun di dunia nyata tanpa terdeteksi.
Mereka juga meneliti potensi AI “menyembunyikan kemampuannya”, namun belum menemukan bukti praktik tersebut terjadi secara aktif.
Risiko Jailbreak dan Penyalahgunaan
Untuk mencegah penyalahgunaan, pengembang menanamkan banyak pembatasan.
Meski begitu, peneliti tetap menemukan “universal jailbreaks” yang bisa melewati proteksi di semua model yang diuji.
AISI juga mencatat semakin banyak alat AI yang dapat melakukan tugas bernilai tinggi di sektor keuangan dan bidang lain yang sensitif.
Lingkungan dan Tenaga Kerja Belum Dikaji Mendalam
Laporan ini tidak membahas dampak AI terhadap lapangan kerja atau lingkungan dalam jangka pendek.
Karena itu, sebagian pihak menilai kajian tambahan masih diperlukan.
Namun, pemerintah Inggris menyatakan temuan AISI akan membantu perusahaan memperbaiki risiko sebelum AI digunakan secara luas.
Dengan meningkatnya penggunaan UK AI emotional support, pembuat kebijakan kini dihadapkan pada tantangan baru: memaksimalkan manfaat AI sambil tetap melindungi masyarakat dari risiko psikologis dan keamanan.
