INDUSTRY.co.id - JAKARTA – Adopsi artificial intelligence (AI) yang semakin luas di dunia usaha membuka peluang efisiensi, tetapi sekaligus membawa risiko baru bagi pemilik bisnis. Ketergantungan terhadap teknologi, kebocoran data, serangan siber, kesalahan pengambilan keputusan hingga hilangnya diferensiasi menjadi sejumlah persoalan yang perlu diantisipasi perusahaan.
Hal tersebut menjadi perhatian utama dalam Workshop “AI for Business Owners” yang diselenggarakan SyaREA World (SW) selama tiga hari di IPB International Convention Center Bogor pekan lalu. Kegiatan tersebut diikuti sekitar 50 pengusaha Muslim dengan materi yang menempatkan pemanfaatan AI dari perspektif pemilik bisnis.
Founder SyaREA World Syamsul Safin mengatakan pemanfaatan AI perlu dikendalikan agar teknologi tidak justru mengambil alih arah bisnis. Menurutnya, penggunaan AI tanpa tujuan yang jelas berisiko membuat pengusaha terjebak dalam eksplorasi teknologi tanpa kembali pada tujuan awal bisnis.
“Bagi kami, workshop ini adalah rescue mission dari labirin tak berujung. Kami tidak ingin pengusaha sekadar menjadi pengguna AI yang sibuk mencoba berbagai tools. Yang jauh lebih penting adalah mereka memahami posisi AI dalam arsitektur bisnisnya, apa yang boleh dibantu AI, apa yang harus tetap diputuskan manusia, dan batas apa yang tidak boleh dilewati,” ujar Syamsul.
Salah satu risiko yang disoroti adalah hilangnya diferensiasi bisnis. AI mampu menghasilkan konten, materi pemasaran maupun berbagai output bisnis secara cepat. Namun, ketika pelaku usaha menggunakan tools, pola dan instruksi yang relatif seragam, produk dan komunikasi perusahaan berpotensi menjadi semakin generik.
Kondisi tersebut dapat menjadi persoalan bagi bisnis karena diferensiasi merupakan salah satu faktor yang memungkinkan perusahaan membangun nilai lebih di mata pelanggan. Ketika produk dan komunikasi semakin seragam, perusahaan berisiko masuk ke persaingan berbasis harga.
“Dalam kondisi generik, banyak pengusaha yang terjebak pada perang harga. Padahal perang harga tidak pernah dimenangkan oleh yang kecil. Yang bertahan adalah yang bermodal paling dalam. Margin yang tergerus akan mematikan kemampuan bertumbuh,” kata Syamsul.
Selain diferensiasi, keamanan data menjadi persoalan lain ketika AI mulai terhubung dengan sistem internal perusahaan. Data pelanggan, strategi bisnis, dokumen internal, informasi keuangan hingga pengetahuan perusahaan dapat menjadi informasi sensitif apabila dimasukkan ke dalam sistem AI tanpa tata kelola yang memadai.
Risiko tersebut semakin kompleks ketika perusahaan mulai menggunakan AI Agent. Berbeda dengan AI yang hanya memberikan respons, AI Agent dapat berinteraksi dengan aplikasi, data, API, tools dan berbagai sistem perusahaan.
Dalam workshop tersebut, SyaREA World memperkenalkan sejumlah titik kerentanan yang perlu diperhatikan, mulai dari indirect prompt injection, pencurian atau eksfiltrasi data, penyalahgunaan hak akses, manipulasi memory atau context, kebocoran API key hingga serangan melalui tools dan server eksternal.
Kerentanan juga dapat berasal dari infrastruktur tempat AI beroperasi, termasuk eksploitasi sistem operasi, server-side request forgery (SSRF), remote code execution (RCE), container escape, serangan webhook, hingga DDoS dan resource exhaustion.
“Semakin luas akses yang diberikan kepada AI, semakin penting pula pengendalian akses dan keamanan sistem. Oleh karena itu, jangan sampai demi mengejar efisiensi dengan AI, perusahaan justru membuka pintu bagi risiko keamanan data, privasi dan kebocoran informasi,” ujar Syamsul.
Risiko penggunaan AI juga mencakup kualitas informasi yang dihasilkan. National Institute of Standards and Technology (NIST), menurut SyaREA World, memasukkan confabulation atau hallucination, kebocoran data dan keamanan informasi sebagai sejumlah risiko yang perlu dikelola dalam penggunaan generative AI.
Sementara itu, Microsoft dalam Work Trend Index 2025 melaporkan 78% pengguna AI di tempat kerja yang disurvei menggunakan atau membawa tools AI mereka sendiri ke tempat kerja. Fenomena tersebut menunjukkan bahwa perusahaan juga menghadapi tantangan tata kelola ketika penggunaan AI dilakukan secara individual tanpa kontrol organisasi.
Syamsul juga menyoroti risiko yang lebih bersifat perilaku, yakni ketika pengguna merasa memahami suatu persoalan hanya karena berhasil memperoleh jawaban dari AI. Ia menyebut kondisi tersebut sebagai “halusinasi kepintaran”.
“Kalau pada efek Dunning-Kruger orang tahu sedikit sudah merasa tahu banyak. Kalau dengan AI, orang yang sebenarnya tidak tahu apa-apa, langsung merasa tahu segalanya. Ini kan sangat berbahaya kalau diterapkan dalam konteks bisnis,” tegasnya.
Karena itu, pemilik bisnis dinilai tetap perlu memiliki kemampuan untuk menguji, memverifikasi dan mempertanyakan hasil yang diberikan AI. Hal tersebut semakin penting ketika AI mulai digunakan bukan hanya untuk pekerjaan administratif, tetapi juga untuk analisis, strategi, pelayanan pelanggan hingga pengambilan keputusan.
Kesalahan yang tidak terdeteksi dalam proses tersebut dapat berdampak langsung terhadap operasional dan strategi perusahaan. Dengan demikian, tantangan bagi business owner bukan sekadar mengetahui berbagai kemampuan AI, melainkan memastikan teknologi tersebut digunakan sesuai dengan arah dan kepentingan bisnis.
SyaREA World menilai pemilik bisnis juga tidak harus menjadi ahli AI untuk dapat mengadopsi teknologi tersebut. Business owner cukup memahami manfaat, batas, risiko dan arah pemanfaatan AI yang berkaitan dengan visi-misi, nilai inti, strategi serta rancangan usaha.
“Cukup tahu seperlunya. Gunakan AI sampai lapisan arah, visi-misi perusahaan, nilai inti, strategi dan rancangan usaha. Sisanya serahkan kepada tim dan terus awasi,” tutur Syamsul.
Dengan pendekatan tersebut, AI dapat ditempatkan sebagai sparing partner strategis untuk menguji keputusan, mempercepat analisis, menemukan kelemahan strategi dan membantu eksekusi. Namun, arah dan keputusan akhir bisnis tetap berada di tangan manusia.
Bagi SyaREA World, pertanyaan penting bagi pemilik bisnis di tengah percepatan adopsi AI bukan hanya mengenai kemampuan teknologi tersebut. Persoalan yang tak kalah penting adalah menentukan bagian mana yang tetap harus menjadi keputusan manusia agar efisiensi teknologi tidak mengorbankan identitas, strategi dan keunggulan bisnis.
