CEO TikTok Peringatkan Risiko Keamanan Agen AI yang Sering Diabaikan Pengguna
Peringatan tersebut disampaikan dalam acara DBS Asia Future Forward 2026 di Singapura pada Senin, 12 Oktober 2026. Menurut Shou, perkembangan agen AI menawarkan peluang besar untuk meningkatkan produktivitas, tetapi juga menghadirkan risiko baru yang perlu dipahami oleh individu maupun perusahaan.
Singapura, 13 Oktober 2026 — CEO TikTok Shou Chew memperingatkan risiko keamanan siber yang muncul seiring meningkatnya penggunaan agen kecerdasan artifisial atau Artificial Intelligence (AI). Ia menyoroti kebiasaan pengguna memberikan izin akses kepada agen AI untuk menjalankan berbagai tindakan tanpa memahami sepenuhnya kewenangan yang diberikan.
Peringatan tersebut disampaikan dalam acara DBS Asia Future Forward 2026 di Singapura pada Senin, 12 Oktober 2026. Menurut Shou, perkembangan agen AI menawarkan peluang besar untuk meningkatkan produktivitas, tetapi juga menghadirkan risiko baru yang perlu dipahami oleh individu maupun perusahaan. Katadata.co.id
Agen AI merupakan sistem kecerdasan buatan yang dirancang untuk menjalankan tugas berdasarkan tujuan atau instruksi pengguna. Berbeda dengan chatbot yang terutama memberikan jawaban, agen AI tertentu dapat berinteraksi dengan aplikasi, mengakses informasi, dan melakukan serangkaian tindakan secara mandiri sesuai dengan izin yang diberikan.
Perkembangan ini mendorong perusahaan untuk mulai mengevaluasi bagaimana teknologi AI digunakan dalam pekerjaan sehari-hari, terutama ketika sistem memperoleh akses terhadap informasi sensitif dan layanan penting.
Agen AI Menawarkan Produktivitas, tetapi Menghadirkan Risiko Baru
Shou Chew menilai bahwa agen AI berpotensi meningkatkan produktivitas secara signifikan. Teknologi tersebut memungkinkan berbagai pekerjaan dilakukan secara lebih otomatis, sehingga pengguna dapat menghemat waktu untuk aktivitas yang sebelumnya memerlukan banyak intervensi manual.
Dalam lingkungan kerja, agen AI dapat membantu mengolah informasi, menyusun dokumen, mengelola tugas, hingga mendukung proses analisis data. Kemampuan tersebut membuat teknologi ini semakin menarik bagi perusahaan yang ingin meningkatkan efisiensi operasional.
Namun, peningkatan kemampuan agen AI juga menimbulkan persoalan mengenai batas kewenangan sistem. Ketika pengguna memberikan izin untuk mengakses akun, informasi pribadi, atau layanan pembayaran, agen AI dapat memiliki kemampuan untuk melakukan tindakan yang konsekuensinya tidak selalu dipahami oleh pengguna.
Menurut Shou, risiko keamanan siber menjadi perhatian penting karena banyak pengguna mungkin belum memahami jenis izin yang telah mereka berikan kepada agen AI.
Oleh sebab itu, perkembangan teknologi ini perlu disertai edukasi mengenai keamanan dan pemahaman terhadap kemampuan sistem sebelum digunakan untuk menjalankan tugas secara mandiri.
Pemberian Izin Akses Menjadi Perhatian Utama
Salah satu persoalan yang disoroti adalah pemberian izin akses yang terlalu luas. Dalam sejumlah penggunaan, agen AI memerlukan akses ke aplikasi atau informasi tertentu agar dapat menyelesaikan tugas yang diberikan.
Namun, apabila izin yang diberikan tidak sesuai dengan kebutuhan, risiko penyalahgunaan atau kesalahan tindakan dapat meningkat.
Sebagai contoh, agen AI yang memperoleh akses terhadap informasi pembayaran atau akun tertentu berpotensi menimbulkan masalah apabila menjalankan tindakan yang tidak sesuai dengan maksud pengguna.
Risiko serupa juga dapat muncul dalam lingkungan perusahaan. Agen AI yang diberi akses ke dokumen internal tanpa pembatasan yang memadai berpotensi membuka informasi yang seharusnya hanya dapat dilihat oleh pihak tertentu.
Karena itu, perusahaan perlu memastikan bahwa setiap agen AI hanya memperoleh akses yang diperlukan untuk menjalankan tugasnya. Pengguna juga perlu memeriksa izin aplikasi dan memahami tindakan apa saja yang dapat dilakukan oleh sistem.
TikTok Dorong Karyawan Memahami Kemampuan AI
Shou Chew juga mendorong karyawan TikTok untuk mencoba berbagai model dan produk AI yang tersedia di pasar. Menurutnya, pengalaman langsung dapat membantu seseorang memahami kemampuan sekaligus keterbatasan teknologi tersebut.
Ia menilai bahwa memahami AI tidak cukup hanya melalui pembacaan informasi atau mengikuti perkembangan industri. Pengguna perlu berinteraksi langsung dengan teknologi agar dapat mengetahui bagaimana sistem bekerja dan dalam situasi apa pengawasan manusia tetap diperlukan.
Shou turut menyebut OpenClaw sebagai salah satu teknologi yang dapat dicoba untuk memahami perkembangan agen AI. Namun, penggunaan teknologi semacam ini tetap perlu mempertimbangkan aspek keamanan, khususnya ketika sistem meminta akses ke data atau aplikasi pribadi.
Pendekatan tersebut relevan bagi perusahaan yang sedang mengadopsi AI. Karyawan perlu memahami bukan hanya cara menggunakan teknologi, tetapi juga bagaimana menjaga informasi perusahaan dan menghindari pemberian izin yang tidak diperlukan.
Perusahaan Perlu Menyiapkan Pengamanan Sebelum Mengadopsi Agen AI
Meningkatnya kemampuan agen AI membuat perusahaan perlu memperkuat kebijakan keamanan ketika mengintegrasikan teknologi tersebut ke dalam proses bisnis.
Salah satu pendekatan yang dapat digunakan adalah prinsip least privilege, yaitu memberikan akses seminimal mungkin sesuai dengan tugas yang harus diselesaikan oleh sistem.
Selain itu, perusahaan dapat menetapkan persetujuan manusia sebelum agen AI melakukan tindakan berisiko tinggi, seperti mengirimkan informasi sensitif, mengubah data penting, atau melakukan transaksi keuangan.
Pencatatan aktivitas juga dapat membantu perusahaan meninjau tindakan yang dilakukan oleh agen AI. Dengan adanya catatan tersebut, organisasi dapat mengevaluasi penggunaan sistem dan mengidentifikasi aktivitas yang tidak sesuai.
Langkah lainnya mencakup pembatasan penggunaan data rahasia, evaluasi keamanan aplikasi, serta pelatihan bagi karyawan mengenai risiko penggunaan AI.
Penerapan langkah-langkah tersebut dapat membantu perusahaan memperoleh manfaat otomatisasi sekaligus mengurangi kemungkinan kesalahan dan penyalahgunaan sistem.
AI Berpotensi Mengubah Cara Perusahaan Bekerja
Perkembangan agen AI menjadi bagian dari perubahan yang lebih luas dalam penggunaan teknologi di dunia bisnis. Sistem AI tidak lagi hanya digunakan untuk menghasilkan teks atau menjawab pertanyaan, tetapi juga mulai dirancang untuk menyelesaikan rangkaian pekerjaan.
Dalam bidang pemasaran digital, misalnya, teknologi AI dapat membantu riset topik, menyusun draf konten, mengelompokkan masukan pelanggan, dan menganalisis performa kampanye.
Di bidang administrasi, teknologi serupa dapat membantu menyusun laporan, mengelola informasi, dan mengotomatisasi pekerjaan rutin.
Meski demikian, penerapannya tetap membutuhkan pengawasan manusia. Hasil yang dihasilkan AI dapat mengandung kesalahan, sementara tindakan otomatis dapat menimbulkan konsekuensi apabila sistem menerima instruksi yang keliru atau memperoleh akses berlebihan.
Perusahaan perlu menentukan pekerjaan yang sesuai untuk diotomatisasi, informasi yang boleh diakses sistem, serta tindakan yang harus mendapatkan persetujuan manusia.
Keamanan Data Menjadi Faktor Penting dalam Adopsi AI
Seiring meningkatnya penggunaan AI, perlindungan data menjadi salah satu aspek yang perlu diperhatikan oleh perusahaan maupun pengguna individu.
Informasi seperti identitas pelanggan, dokumen internal, kredensial akun, dan data keuangan perlu diperlakukan secara hati-hati ketika menggunakan layanan AI.
Sebelum mengintegrasikan suatu sistem, perusahaan perlu memahami kebijakan pengelolaan data penyedia layanan, cakupan akses yang diminta, serta mekanisme pengamanan yang tersedia.
Penggunaan AI juga perlu disertai kebijakan internal yang menjelaskan jenis informasi yang boleh dimasukkan ke dalam sistem dan siapa saja yang berwenang menggunakannya.
Dengan pengelolaan yang tepat, perusahaan dapat memanfaatkan AI untuk meningkatkan produktivitas tanpa mengabaikan keamanan informasi dan tanggung jawab terhadap pelanggan.
Referensi
Katadata.co.id — CEO TikTok Ungkap Risiko Besar Agen AI yang Sering Diabaikan Pengguna, 13 Oktober 2026. Baca berita lengkap
Channel NewsAsia (CNA) — Better understanding of AI cybersecurity risks needed, says TikTok’s Chew Shou Zi, 12 Oktober 2026. Baca berita lengkap
Katadata.co.id — CEO TikTok Ungkap Keterampilan yang Wajib Dimiliki Pekerja di Era AI, 12 Oktober 2026. Baca berita lengkap
Peringatan tersebut disampaikan dalam acara DBS Asia Future Forward 2026 di Singapura pada Senin, 12 Oktober 2026. Menurut Shou, perkembangan agen AI menawarkan peluang besar untuk meningkatkan produktivitas, tetapi juga menghadirkan risiko baru yang perlu dipahami oleh individu maupun perusahaan. Katadata.co.id
Agen AI merupakan sistem kecerdasan buatan yang dirancang untuk menjalankan tugas berdasarkan tujuan atau instruksi pengguna. Berbeda dengan chatbot yang terutama memberikan jawaban, agen AI tertentu dapat berinteraksi dengan aplikasi, mengakses informasi, dan melakukan serangkaian tindakan secara mandiri sesuai dengan izin yang diberikan.
Perkembangan ini mendorong perusahaan untuk mulai mengevaluasi bagaimana teknologi AI digunakan dalam pekerjaan sehari-hari, terutama ketika sistem memperoleh akses terhadap informasi sensitif dan layanan penting.
Agen AI Menawarkan Produktivitas, tetapi Menghadirkan Risiko Baru
Shou Chew menilai bahwa agen AI berpotensi meningkatkan produktivitas secara signifikan. Teknologi tersebut memungkinkan berbagai pekerjaan dilakukan secara lebih otomatis, sehingga pengguna dapat menghemat waktu untuk aktivitas yang sebelumnya memerlukan banyak intervensi manual.
Dalam lingkungan kerja, agen AI dapat membantu mengolah informasi, menyusun dokumen, mengelola tugas, hingga mendukung proses analisis data. Kemampuan tersebut membuat teknologi ini semakin menarik bagi perusahaan yang ingin meningkatkan efisiensi operasional.
Namun, peningkatan kemampuan agen AI juga menimbulkan persoalan mengenai batas kewenangan sistem. Ketika pengguna memberikan izin untuk mengakses akun, informasi pribadi, atau layanan pembayaran, agen AI dapat memiliki kemampuan untuk melakukan tindakan yang konsekuensinya tidak selalu dipahami oleh pengguna.
Menurut Shou, risiko keamanan siber menjadi perhatian penting karena banyak pengguna mungkin belum memahami jenis izin yang telah mereka berikan kepada agen AI.
Oleh sebab itu, perkembangan teknologi ini perlu disertai edukasi mengenai keamanan dan pemahaman terhadap kemampuan sistem sebelum digunakan untuk menjalankan tugas secara mandiri.
Pemberian Izin Akses Menjadi Perhatian Utama
Salah satu persoalan yang disoroti adalah pemberian izin akses yang terlalu luas. Dalam sejumlah penggunaan, agen AI memerlukan akses ke aplikasi atau informasi tertentu agar dapat menyelesaikan tugas yang diberikan.
Namun, apabila izin yang diberikan tidak sesuai dengan kebutuhan, risiko penyalahgunaan atau kesalahan tindakan dapat meningkat.
Sebagai contoh, agen AI yang memperoleh akses terhadap informasi pembayaran atau akun tertentu berpotensi menimbulkan masalah apabila menjalankan tindakan yang tidak sesuai dengan maksud pengguna.
Risiko serupa juga dapat muncul dalam lingkungan perusahaan. Agen AI yang diberi akses ke dokumen internal tanpa pembatasan yang memadai berpotensi membuka informasi yang seharusnya hanya dapat dilihat oleh pihak tertentu.
Karena itu, perusahaan perlu memastikan bahwa setiap agen AI hanya memperoleh akses yang diperlukan untuk menjalankan tugasnya. Pengguna juga perlu memeriksa izin aplikasi dan memahami tindakan apa saja yang dapat dilakukan oleh sistem.
TikTok Dorong Karyawan Memahami Kemampuan AI
Shou Chew juga mendorong karyawan TikTok untuk mencoba berbagai model dan produk AI yang tersedia di pasar. Menurutnya, pengalaman langsung dapat membantu seseorang memahami kemampuan sekaligus keterbatasan teknologi tersebut.
Ia menilai bahwa memahami AI tidak cukup hanya melalui pembacaan informasi atau mengikuti perkembangan industri. Pengguna perlu berinteraksi langsung dengan teknologi agar dapat mengetahui bagaimana sistem bekerja dan dalam situasi apa pengawasan manusia tetap diperlukan.
Shou turut menyebut OpenClaw sebagai salah satu teknologi yang dapat dicoba untuk memahami perkembangan agen AI. Namun, penggunaan teknologi semacam ini tetap perlu mempertimbangkan aspek keamanan, khususnya ketika sistem meminta akses ke data atau aplikasi pribadi.
Pendekatan tersebut relevan bagi perusahaan yang sedang mengadopsi AI. Karyawan perlu memahami bukan hanya cara menggunakan teknologi, tetapi juga bagaimana menjaga informasi perusahaan dan menghindari pemberian izin yang tidak diperlukan.
Perusahaan Perlu Menyiapkan Pengamanan Sebelum Mengadopsi Agen AI
Meningkatnya kemampuan agen AI membuat perusahaan perlu memperkuat kebijakan keamanan ketika mengintegrasikan teknologi tersebut ke dalam proses bisnis.
Salah satu pendekatan yang dapat digunakan adalah prinsip least privilege, yaitu memberikan akses seminimal mungkin sesuai dengan tugas yang harus diselesaikan oleh sistem.
Selain itu, perusahaan dapat menetapkan persetujuan manusia sebelum agen AI melakukan tindakan berisiko tinggi, seperti mengirimkan informasi sensitif, mengubah data penting, atau melakukan transaksi keuangan.
Pencatatan aktivitas juga dapat membantu perusahaan meninjau tindakan yang dilakukan oleh agen AI. Dengan adanya catatan tersebut, organisasi dapat mengevaluasi penggunaan sistem dan mengidentifikasi aktivitas yang tidak sesuai.
Langkah lainnya mencakup pembatasan penggunaan data rahasia, evaluasi keamanan aplikasi, serta pelatihan bagi karyawan mengenai risiko penggunaan AI.
Penerapan langkah-langkah tersebut dapat membantu perusahaan memperoleh manfaat otomatisasi sekaligus mengurangi kemungkinan kesalahan dan penyalahgunaan sistem.
AI Berpotensi Mengubah Cara Perusahaan Bekerja
Perkembangan agen AI menjadi bagian dari perubahan yang lebih luas dalam penggunaan teknologi di dunia bisnis. Sistem AI tidak lagi hanya digunakan untuk menghasilkan teks atau menjawab pertanyaan, tetapi juga mulai dirancang untuk menyelesaikan rangkaian pekerjaan.
Dalam bidang pemasaran digital, misalnya, teknologi AI dapat membantu riset topik, menyusun draf konten, mengelompokkan masukan pelanggan, dan menganalisis performa kampanye.
Di bidang administrasi, teknologi serupa dapat membantu menyusun laporan, mengelola informasi, dan mengotomatisasi pekerjaan rutin.
Meski demikian, penerapannya tetap membutuhkan pengawasan manusia. Hasil yang dihasilkan AI dapat mengandung kesalahan, sementara tindakan otomatis dapat menimbulkan konsekuensi apabila sistem menerima instruksi yang keliru atau memperoleh akses berlebihan.
Perusahaan perlu menentukan pekerjaan yang sesuai untuk diotomatisasi, informasi yang boleh diakses sistem, serta tindakan yang harus mendapatkan persetujuan manusia.
Keamanan Data Menjadi Faktor Penting dalam Adopsi AI
Seiring meningkatnya penggunaan AI, perlindungan data menjadi salah satu aspek yang perlu diperhatikan oleh perusahaan maupun pengguna individu.
Informasi seperti identitas pelanggan, dokumen internal, kredensial akun, dan data keuangan perlu diperlakukan secara hati-hati ketika menggunakan layanan AI.
Sebelum mengintegrasikan suatu sistem, perusahaan perlu memahami kebijakan pengelolaan data penyedia layanan, cakupan akses yang diminta, serta mekanisme pengamanan yang tersedia.
Penggunaan AI juga perlu disertai kebijakan internal yang menjelaskan jenis informasi yang boleh dimasukkan ke dalam sistem dan siapa saja yang berwenang menggunakannya.
Dengan pengelolaan yang tepat, perusahaan dapat memanfaatkan AI untuk meningkatkan produktivitas tanpa mengabaikan keamanan informasi dan tanggung jawab terhadap pelanggan.
Referensi
Katadata.co.id — CEO TikTok Ungkap Risiko Besar Agen AI yang Sering Diabaikan Pengguna, 13 Oktober 2026. Baca berita lengkap
Channel NewsAsia (CNA) — Better understanding of AI cybersecurity risks needed, says TikTok’s Chew Shou Zi, 12 Oktober 2026. Baca berita lengkap
Katadata.co.id — CEO TikTok Ungkap Keterampilan yang Wajib Dimiliki Pekerja di Era AI, 12 Oktober 2026. Baca berita lengkap
