Berita Informasi Teknologi

3 Masalah Besar AI Generatif yang Belum Teratasi

Mengadopsi AI generatif ke dalam teknologi berpotensi menjadi lebih signifikan dibandingkan saat internet diperkenalkan. Hal ini mengganggu sebagian besar upaya kreatif dan tidak semampu yang akan terjadi pada akhir dekade ini.

Gen AI akan memaksa kita untuk memikirkan kembali cara kita berkomunikasi, cara kita berkolaborasi, cara kita berkreasi, cara kita memecahkan masalah, cara kita memerintah, dan bahkan cara dan apakah kita bepergian – dan itu masih jauh dari daftar yang lengkap. Tentu kita semua berharap bahwa ketika teknologi ini mencapai kematangannya, daftar hal-hal yang tidak berubah akan jauh lebih sedikit daripada daftar hal-hal yang berubah.

Pemuatan Pusat Data

Terlepas dari semua hype yang ada, hanya sedikit orang yang menggunakan AI generatif, apalagi menggunakannya secara maksimal. Teknologi ini sangat intensif dalam hal prosesor dan data serta sangat berfokus pada personal, sehingga menempatkannya hanya di cloud tidak akan memungkinkan, terutama karena ukuran, biaya, dan latensi yang dihasilkan tidak akan berkelanjutan.

Sama seperti yang telah kami lakukan dengan data lain dan aplikasi yang berfokus pada kinerja, pendekatan terbaik kemungkinan besar adalah hibrida di mana kekuatan pemrosesan tetap dekat dengan pengguna. Namun, data yang sangat besar, yang akan membutuhkan pembaruan yang agresif, perlu dimuat dan diakses secara lebih terpusat untuk melindungi kapasitas penyimpanan yang terbatas pada perangkat klien, smartphone, dan PC.

Namun, karena kita berbicara tentang sistem yang semakin cerdas, terkadang – seperti saat digunakan untuk bermain game, penerjemahan, atau percakapan – membutuhkan latensi yang sangat rendah. Bagaimana beban dibagi tanpa merusak kinerja kemungkinan besar akan menentukan apakah implementasi tertentu berhasil.

Mencapai latensi rendah tidak akan mudah karena meskipun teknologi nirkabel telah meningkat, teknologi ini masih tidak dapat diandalkan karena cuaca, penempatan menara atau pengguna, pemadaman pemeliharaan, bencana alam atau bencana buatan manusia, dan cakupan global yang kurang lengkap. AI harus bekerja secara online dan offline sambil membatasi lalu lintas data dan menghindari pemadaman besar.

Bahkan jika kita dapat memusatkan semua ini, biayanya akan sangat mahal, meskipun kita memiliki kinerja yang kurang digunakan di perangkat pribadi kita yang dapat mengurangi sebagian besar biaya tersebut. Qualcomm adalah salah satu perusahaan pertama yang menandai hal ini sebagai masalah dan berupaya keras untuk memperbaikinya. Namun, kami memperkirakan bahwa hal ini akan menjadi terlalu sedikit dan terlambat, mengingat betapa cepatnya perkembangan AI generatif dan betapa lambatnya teknologi seperti ini dikembangkan dan dibawa ke pasar.

Keamanan

Jika seseorang bisa mendapatkan data yang cukup, mereka dapat memperkirakan data yang tidak dapat mereka akses dengan lebih akurat. Misalnya, jika Anda mengetahui jumlah rata-rata mobil di tempat parkir perusahaan, Anda bisa, dengan akurasi yang masuk akal, memperkirakan jumlah karyawan yang dimiliki perusahaan. Anda biasanya dapat memindai media sosial dan mencari tahu minat karyawan utama perusahaan, dan Anda dapat melihat lowongan pekerjaan untuk menentukan jenis produk masa depan yang kemungkinan akan dikembangkan oleh perusahaan.

Model bahasa yang besar ini mengumpulkan data dalam jumlah besar, dan saya berharap banyak hal yang dipindai oleh LLM ini bersifat atau seharusnya bersifat rahasia. Selain itu, jika informasi yang dikumpulkan cukup banyak, celah yang dihasilkan dari apa yang tidak dipindai akan semakin banyak.

Skenario ini tidak hanya berlaku untuk informasi perusahaan. Dengan jenis informasi pribadi yang sudah tersedia, kita juga akan dapat menentukan lebih banyak lagi tentang kehidupan pribadi pengguna.

Perusahaan akan dapat menemukan pelapor pelanggaran, karyawan yang tidak puas atau tidak loyal, perilaku karyawan yang buruk, dan karyawan yang mengambil keuntungan dari perusahaan secara tidak sah dengan akurasi yang lebih tinggi. Melindungi diri dari entitas yang bermusuhan yang mendapatkan informasi rahasia tentang Anda, perusahaan Anda, atau bahkan pemerintah Anda menjadi lebih mungkin dilakukan dengan akurasi yang jauh lebih baik daripada yang saya nikmati sebagai auditor atau analis kompetitif.

Pertahanan terbaik kemungkinan besar akan menciptakan disinformasi yang cukup sehingga alat tidak tahu mana yang nyata dan mana yang tidak. Namun, cara ini juga akan membuat sistem AI yang terhubung menjadi jauh lebih tidak dapat diandalkan secara keseluruhan, yang tidak masalah jika hanya pesaing yang menggunakan sistem tersebut. Namun, hal ini kemungkinan akan membahayakan sistem perusahaan yang menginginkan perlindungan yang mungkin digunakan, yang mengakibatkan semakin banyak keputusan yang buruk.

Hubungan Interpersonal

Perusahaan seperti Mindverse dengan MindOS dan Suki dengan avatar pelengkap karyawannya menampilkan penggunaan AI generatif secara personal di masa depan sebagai alat yang dapat menampilkan diri seolah-olah itu adalah Anda. Seiring dengan semakin seringnya kita menggunakan alat seperti ini, kemampuan kita untuk menentukan mana yang nyata dan mana yang digital akan berkurang secara signifikan, dan pendapat kita tentang orang-orang yang menggunakan alat ini akan lebih mencerminkan alatnya daripada orangnya.

Bayangkan jika kembaran digital Anda melakukan wawancara virtual, menjadi wajah dari kehadiran Anda di aplikasi kencan, atau mengambil alih sebagian besar interaksi virtual harian Anda. Alat ini akan mencoba untuk responsif terhadap orang yang berinteraksi dengannya, tidak akan pernah lelah atau marah-marah, dan akan dilatih untuk menampilkan Anda dalam cahaya yang terbaik. Namun, seiring berjalannya waktu, alat ini akan semakin tidak mirip dengan diri Anda yang sebenarnya – dan kemungkinan menjadi jauh lebih menarik, atraktif, dan lebih mudah marah daripada yang seharusnya.

Hal ini akan menimbulkan masalah karena, seperti halnya aktor yang berkencan dengan seseorang yang telah jatuh cinta pada karakter yang pernah diperankan oleh aktor tersebut, kenyataannya akan menciptakan perpisahan dan hilangnya kepercayaan.

Perbaikan yang paling mudah adalah dengan belajar berperilaku seperti avatar Anda atau menggunakannya untuk berinteraksi dengan teman dan rekan kerja. Saya ragu kita akan melakukan keduanya, tetapi ini adalah dua pendekatan yang paling memungkinkan untuk mengurangi masalah yang akan datang ini.

Kesimpulan

AI generatif sangat luar biasa dan akan secara signifikan meningkatkan kinerja saat masuk ke pasar dan pengguna mencapai massa kritis. Namun, ada beberapa masalah signifikan yang perlu diatasi, termasuk pemuatan pusat data yang berlebihan, yang seharusnya mendorong solusi hybrid di masa depan, ketidakmampuan untuk mencegah penurunan rahasia dari model bahasa yang sangat besar ini, dan penurunan kepercayaan antarpribadi yang cukup besar.

Memahami risiko-risiko yang akan datang ini akan membantu menghindarinya. Namun, perbaikannya tidak terlalu bagus, menunjukkan bahwa kita mungkin akan menyesali beberapa konsekuensi yang tidak diinginkan dari penggunaan teknologi ini.

Sumber : https://www.technewsworld.com/story/3-big-generative-ai-problems-yet-to-be-addressed-178213.html