Model AI & BYOK #

Halaman ini menjelaskan model AI mana yang mendukung bot Anda, mengapa hanya satu penyedia yang didukung untuk BYOK (Bring Your Own Key), dan cara menyiapkan kunci Anda sendiri jika paket Anda menyertakannya.

Model AI Mana yang Mendukung Bot #

Platform ini menggunakan Anthropic Claude sebagai model utama untuk bot Anda. Claude dipilih karena, setelah pengujian ekstensif terhadap setiap model frontier utama (istilah industri untuk model AI tercanggih yang tersedia) di pasar, Claude adalah satu-satunya yang menangani volume pesan produksi dengan andal.

Anda tidak perlu memilih model. Platform secara otomatis memilih model yang tepat untuk setiap tugas dan mengoptimalkan cara penggunaannya di balik layar (termasuk prompt caching tingkat lanjut, yang secara drastis mengurangi biaya per percakapan).

Mengapa Hanya Anthropic untuk BYOK #

Pelanggan sering bertanya apakah kami akan menambahkan dukungan untuk OpenAI, Google Gemini, OpenRouter, atau model sumber terbuka untuk BYOK. Jawaban jujurnya adalah: tidak ada satu pun dari model tersebut, jika digunakan secara mentah dan tanpa optimasi, yang mampu bertahan pada volume produksi.

Untuk proyek kecil, tingkat keberhasilan 9 dari 10 dari AI sudah cukup. Begitu Anda menjalankan percakapan pelanggan yang nyata dalam skala besar, tingkat kegagalan 10% berarti pemesanan yang rusak, jawaban yang salah, tindak lanjut yang terlewat, dan penjualan yang hilang. Itu mendekati angka yang kami lihat bahkan dari model frontier tingkat atas dari penyedia lain (sekitar 6–10% pada kasus edge adversarial, yang berarti pertanyaan tes yang rumit dan sengaja dibuat sulit) — dan itu belum mempertimbangkan model yang lebih murah.

Masalahnya terbagi menjadi tiga kategori:

• Kasus ekstrem (edge cases) rusak secara tidak terduga. Sebuah model dapat bekerja dengan sempurna untuk ratusan obrolan, lalu tiba-tiba berhalusinasi saat melakukan panggilan alat (tool call), mengklaim telah melakukan sesuatu yang tidak dilakukannya, atau mengabaikan instruksi di tengah percakapan.
• Konteks panjang ditangani dengan buruk. Satu respons bot menggunakan riwayat obrolan, FAQ, logika tindak lanjut, panggilan alat, dan penalaran. Sebagian besar model kewalahan dengan volume ini dan menghasilkan output yang lebih buruk.
• “Lebih murah” jarang terjadi. Harga stiker yang lebih rendah per token diimbangi dengan lebih banyak percobaan ulang, lebih banyak token output, dan konversi yang lebih buruk. Biaya nyata per percakapan yang berhasil justru menjadi lebih tinggi.

Mendukung 100 model yang berbeda lebih merupakan strategi pemasaran daripada kemampuan nyata. Kami lebih memilih memberi Anda satu penyedia yang bekerja dengan andal daripada lima penyedia yang masing-masing rusak dengan cara yang berbeda.

Model Kami Sendiri: Max #

Kami membangun model internal kami sendiri, Max — sebuah model internal ditambah tumpukan optimasi multi-pass, yang disempurnakan berdasarkan data percakapan nyata dari platform. Tujuannya adalah model yang jauh lebih hemat biaya daripada Claude namun tetap dapat diandalkan pada pola percakapan yang sebenarnya dijalankan di platform, dan itulah yang diberikan oleh Max: sebagian kecil dari harga Pro (0,25 kredit per tindakan), yang disetel agar tetap akurat di mana model anggaran biasa mungkin meleset.

Max tidak memerlukan pengaturan — tidak perlu memilih model, tidak perlu akun penyedia, tidak perlu kunci. Model ini berjalan sepenuhnya di infrastruktur kami, dan merupakan model paling akurat yang kami sediakan: dalam tolok ukur kami sendiri, model ini paling kuat dalam tetap berpegang pada apa yang sebenarnya dikatakan oleh bisnis Anda. Untuk rincian lengkap tentang bagaimana perbandingan Max dengan Claude dan model pihak ketiga hemat yang sering ditanyakan pelanggan — termasuk apa yang sebenarnya salah dari model-model tersebut dalam pengujian kami — lihat Mengapa Max Adalah Nilai Terbaik.

Siapa yang melihat tingkatan Max #

Jika pemilih Kualitas AI pada tab Instruksi AI Agen Anda hanya menampilkan Pro dan Ekonomi, berarti Max belum diaktifkan untuk akun yang Anda gunakan saat ini. Ada dua hal yang mengaktifkannya:

• Akun pada paket seumur hidup yang memenuhi syarat mendapatkan Max secara otomatis.
• Akun lainnya perlu mengaktifkan Max secara eksplisit.

Pada akun yang disediakan oleh agensi, penyedia Anda mungkin telah memilihkan model untuk Anda. Jika pemilih Kualitas AI hanya menampilkan satu kartu dan tidak ada pilihan lain untuk beralih, itu adalah pengaturan yang disengaja pada akun Anda, bukan kesalahan — mintalah kepada pihak yang menyediakan akun Anda untuk mengubahnya. Jika kartu masih ditampilkan dengan catatan bahwa kartu tersebut tidak tersedia lagi, Agen Anda menggunakan model yang telah dihapus oleh penyedia Anda: Agen tersebut tetap membalas, tetapi menggunakan salah satu model yang mereka izinkan, jadi pilihlah salah satu dari model tersebut agar pemilih sesuai dengan apa yang sebenarnya berjalan.

Menghubungkan kunci Anthropic Anda sendiri (BYOK) tidak ada hubungannya dengan apakah Max terlihat atau tidak. Keduanya bekerja berdampingan — lihat catatan pengecualian di bawah Menyiapkan BYOK untuk mengetahui bagaimana Agen Max ditagih saat Anda memiliki kunci yang terhubung. Menghapus kunci API Anda tidak akan membuat Max muncul.

Tingkat Mini #

Jika Anda dapat melihat Max, Anda juga dapat melihat Mini, dengan biaya 0,15 kredit per tindakan. Mini adalah AI yang sama dengan Max namun dengan harga lebih rendah, dengan dua pertimbangan:

• Peluang kesalahan yang lebih tinggi. Mini adalah model yang lebih ringan di antara keduanya. Max adalah model paling akurat yang kami kirimkan — disetel paling ketat agar tetap berpegang pada apa yang sebenarnya dikatakan bisnis Anda — sementara dengan Mini, ada peluang lebih tinggi terjadinya kesalahan kecil atau halusinasi yang menyelinap ke dalam balasan.
• Memori yang lebih ringan. Dalam percakapan yang panjang, Mini mengingat lebih sedikit pesan lama dan menarik lebih sedikit cuplikan basis pengetahuan per balasan.

Max tetap menjadi pilihan yang direkomendasikan untuk segala hal di mana detail yang salah dapat menyebabkan hilangnya penjualan — pemesanan, pertanyaan harga, dukungan dengan risiko nyata. Mini cocok untuk percakapan bervolume tinggi dan sensitif terhadap harga di mana kecepatan dan biaya lebih penting daripada persentase akurasi terakhir.

Mini berada di pemilih Kualitas AI yang sama dengan Max, di setiap akun yang memiliki Max. Seperti Max, Mini berjalan sepenuhnya di infrastruktur kami dan tidak pernah menggunakan kunci BYOK, sehingga kunci Anthropic yang terhubung tidak digunakan (dan tidak ditagih) saat Agen menggunakan Mini.

Apa yang dicakup oleh tarif Mini 0,15. Harga Mini berlaku untuk semua hal yang terjadi di dalam percakapan langsung: balasan AI, panggilan alat AI (seperti menjadwalkan janji temu atau memberi tahu manusia), evaluasi obrolan (memutuskan apakah suatu percakapan harus diabaikan atau ditutup), penanganan interupsi (saat kontak mengirim pesan baru sementara bot masih menyusun balasannya), ringkasan obrolan, dan penandaan otomatis AI. Fitur AI sekali pakai di luar percakapan — pengoptimalan kampanye, pembuatan basis pengetahuan, dan penandaan yang dilakukan melalui API — memiliki tarif tetap sebesar 0,25 kredit baik pada Max maupun Mini, jadi Anda mungkin sesekali melihat entri 0,25 pada riwayat kredit Anda meskipun setiap Agen diatur ke Mini. Itu adalah fitur-fitur tersebut, bukan model Max yang menjawab obrolan Anda.

Menyiapkan BYOK #

BYOK disertakan pada paket Agency dan Agency Unlimited, serta pada paket seumur hidup AppSumo mulai dari Plan 2 ke atas. Fitur ini tidak termasuk dalam paket Business. Jika paket Anda menyertakannya, Anda dapat menghubungkan kunci API Anthropic Anda sendiri (kode pribadi dari akun Anthropic Anda yang memungkinkan platform menagih penggunaan AI Anda secara langsung kepada Anda, alih-alih menggunakan kredit platform).

Hanya kunci resmi Anthropic yang berfungsi. Kunci yang valid berasal dari akun Anda sendiri di console.anthropic.com dan selalu dimulai dengan sk-ant-. Kunci dari pengecer, proksi, atau situs “API Claude diskon” (yang sering kali dimulai dengan awalan berbeda) tidak didukung dan tidak akan tersimpan. Berhati-hatilah dengan penawaran token Claude murah yang jauh di bawah harga resmi Anthropic — tidak ada yang bisa menjual kembali akses Claude secara sah di bawah harga yang ditetapkan Anthropic, dan penawaran tersebut hampir selalu merupakan penipuan yang dibangun di atas kunci curian atau disiapkan untuk mencuri detail pembayaran Anda.

Menggunakan ponsel? Bilah sisi kiri mungkin tersembunyi. Ketuk ikon menu (☰) terlebih dahulu, lalu ketuk Settings.

Tidak melihat Kunci API BYOK di grup Lanjutan? Bagian tersebut hanya muncul pada paket yang menyertakan BYOK. Jika akun Anda dikelola oleh penyedia, bagian tersebut hanya muncul saat mereka telah mengaktifkan Bawa Kunci API Anda Sendiri (Bring Your Own API Key) untuk akun Anda.

1. Di bilah sisi kiri utama, klik Settings (ikon roda gigi di dekat bagian bawah).
2. Pada halaman Settings, di menu sebelah kiri, gulir ke grup Advanced.
3. Klik BYOK API Keys.

4. Klik Add key pada kartu Anthropic. Bidang Secret key akan muncul (placeholder sk-ant-…).

5. Tempelkan kunci API Anthropic Anda ke dalam bidang tersebut, lalu klik Save key.

Setelah diaktifkan, bot Anda akan menggunakan kunci Anda sendiri untuk panggilan AI, dan Anda akan membayar Anthropic secara langsung untuk penggunaan tersebut alih-alih menghabiskan kredit platform untuk respons AI. Infrastruktur saluran (server WhatsApp Web, nomor telepon, dll.) tetap menggunakan kredit seperti biasa.

Satu pengecualian — tingkat Max. Jika Kualitas AI Agen diatur ke tingkat Max, Agen tersebut berjalan sepenuhnya pada infrastruktur internal kami dan ditagih sebesar 0,25 kredit per tindakan meskipun Anda telah menghubungkan BYOK — Max tidak pernah menggunakan kunci Anthropic Anda. (Hal yang sama berlaku untuk Mini, jika tersedia: 0,15 kredit per tindakan, tidak pernah menggunakan kunci Anda.) Untuk menagih balasan ke akun Anthropic Anda sendiri, biarkan Agen tetap pada tingkat Pro (standar). Pemilih Kualitas AI terdapat pada tab Instruksi AI setiap Agen. Halaman pengaturan Kunci API BYOK menampilkan pemberitahuan setiap kali kunci Anda tersimpan tetapi satu atau beberapa Agen Anda masih berjalan pada tingkat Max, dengan mencantumkan Agen mana saja — sehingga Anda dapat melihat sekilas mengapa kredit masih digunakan.

Catatan mengenai biaya: Membawa kunci API Anda sendiri (BYOK) bukan lagi pilihan yang lebih murah. Dengan kunci yang terhubung, Agen Anda berjalan menggunakan Claude dan Anda membayar tarif terukur Anthropic secara langsung (Anthropic menagih Anda berdasarkan penggunaan aktual, mirip dengan tagihan utilitas). Jika diukur di seluruh akun yang menggunakan kunci sendiri, satu balasan AI menelan biaya sekitar 3 kali lipat dari biaya balasan yang sama di Max dan lebih dari 5 kali lipat dari biaya di Mini, setelah memperhitungkan pekerjaan latar belakang yang dipicu oleh sebuah balasan (pencarian basis pengetahuan, pemeriksaan spam, ekstraksi nama dan email, evaluasi obrolan, penandaan), yang semuanya sudah termasuk dalam tarif tetap Max dan Mini tetapi ditagih per token pada kunci Anda. Optimalisasi prompt-caching kami juga berlaku untuk kunci Anda sendiri, jadi ini bukan masalah caching; Max dan Mini hanyalah model yang jauh lebih murah yang juga memiliki skor lebih tinggi pada tolok ukur percakapan penjualan kami. Gunakan BYOK jika Anda secara khusus ingin penggunaan AI ditagihkan ke akun Anthropic Anda sendiri, bukan untuk menghemat uang.

Mengapa balasan pertama dalam percakapan memakan biaya jauh lebih besar daripada sisanya. Caching bekerja dengan menyimpan konteks percakapan dengan Anthropic saat pertama kali dikirim, lalu menggunakannya kembali. Menulisnya memakan biaya lebih besar daripada permintaan biasa; setiap balasan yang menggunakannya kembali memakan biaya sekitar seperdua puluh kalinya. Jadi, balasan pertama terlihat sangat mahal dan balasan setelahnya sangat murah. Apa pun yang berukuran besar dalam percakapan membuat balasan pertama tersebut menjadi lebih besar — dokumen yang diunggah pengunjung adalah penyebab utamanya. PDF 24 halaman setara dengan sekitar 70.000 token, karena setiap halaman dikirim sebagai teks dan gambar halaman tersebut, dan tetap berada dalam percakapan, sehingga dikirim ulang (dan di-cache ulang) setiap kali ada balasan. Jika percakapan tidak aktif selama lebih dari satu jam, salinan yang tersimpan akan kedaluwarsa dan balasan berikutnya akan membayar biaya penulisan lagi.

Jika Anda membangun sesuatu yang padat dokumen — penjelasan kontrak, pencarian manual, apa pun di mana orang mengunggah file — tingkatan Max biasanya lebih cocok: biayanya tetap 0,25 kredit per balasan tidak peduli seberapa besar dokumennya, jadi tidak ada lonjakan biaya pada pesan pertama dan tidak ada risiko biaya per token sama sekali. Lihat Mengapa Max Adalah Nilai Terbaik untuk mengetahui perbandingan kualitas dan biaya Max.

Jika kunci BYOK Anda gagal (tidak valid, kehabisan kuota, atau terkena limitasi tarif — yang berarti Anthropic telah membatasi jumlah permintaan yang dapat dibuat oleh kunci Anda untuk sementara), apakah bot Anda tetap berjalan bergantung pada tombol alih “Fallback to credits” di halaman BYOK API Keys yang sama:

• Aktif (On): platform akan beralih sementara ke kredit platform sehingga bot Anda tetap dapat membalas, dan terus mencoba kunci Anda di latar belakang — saat panggilan berhasil lagi, sistem akan secara otomatis beralih kembali ke kunci Anda sendiri.
• Nonaktif (Off) (default): balasan AI diblokir sampai Anda memperbaiki kunci tersebut. Tidak ada penggunaan kredit secara diam-diam, tetapi bot Anda juga berhenti membalas, jadi jika Anda lebih suka bot tetap berjalan menggunakan kredit saat Anda memperbaiki kunci, aktifkan tombol ini sebelumnya.

Bagaimanapun, Anda akan menerima email saat pertama kali kunci Anda gagal (bukan satu email per pesan).

Pertanyaan yang Sering Diajukan #

Bisakah saya menggunakan OpenAI, Gemini, atau penyedia lain untuk BYOK? Saat ini belum bisa untuk penyedia lain. Bagi kebanyakan orang, jawabannya sudah ada di sini: Max dan Mini adalah paket internal kami sendiri, dengan biaya 0,25 dan 0,15 kredit per tindakan.

Apakah kunci BYOK saya akan digunakan untuk semuanya? Sebagian besar operasi AI bebas dari biaya kredit saat kunci Anthropic Anda sendiri (BYOK) terhubung: respons AI, penggunaan alat, pengoptimalan kampanye, pembuatan basis pengetahuan, dan pencarian web semuanya berjalan menggunakan kunci Anda. Empat hal tetap memerlukan kredit meskipun kunci telah terhubung: paket Max sebesar 0,25 kredit per tindakan dan paket Mini sebesar 0,15, karena keduanya berjalan pada model kami sendiri; Lead Finder sebesar 0,25 per alamat email yang ditemukan; dan Otomatisasi sebesar 0,25 per eksekusi ditambah 0,25 per langkah AI. Untuk menjaga Agen agar sepenuhnya menggunakan kunci Anda sendiri dengan 0 kredit, biarkan pada paket Pro. Biaya saluran (biaya bulanan WhatsApp Web, biaya pengiriman pesan WhatsApp per pesan, dan biaya templat) ditagihkan secara terpisah dari penggunaan AI dalam kondisi apa pun. Jika kunci gagal pada panggilan yang seharusnya berjalan menggunakan kunci tersebut, apakah platform akan beralih ke kredit bergantung pada tombol Fallback to credits Anda — lihat tombol “Fallback to credits” yang dijelaskan di atas pada halaman ini.

Kapan tepatnya balasan AI memakan 0 kredit? BYOK bersifat per-akun. Balasan AI hanya memakan 0 kredit jika akun ini telah menghubungkan kuncinya sendiri dari Anthropic. Tanpa kunci sendiri, balasan akan menggunakan kredit dengan tarif normal.

Apakah BYOK memengaruhi pengiriman pesan atau keandalan saluran? Tidak. BYOK hanya mengubah cara panggilan AI bot Anda ditagihkan. Segala hal lainnya — perutean pesan, infrastruktur saluran, tindak lanjut, kampanye, dan Siaran — berfungsi dengan cara yang sama persis.

Lihat juga: Mengapa Max Adalah Nilai Terbaik · Menyiapkan Bot AI Anda · Agen AI