Tanggal Berita: 9 Desember 2025
Wix Engineering membagikan studi kasus bagaimana mereka mengubah strategi pengembangan AI dari sekadar utak-atik prompt menjadi rekayasa konteks data, menghasilkan lonjakan efisiensi yang drastis.
🚧 Problem Statement: Batas Kemampuan Prompt
Banyak tim pengembang AI terjebak dalam fase prompt engineering yang berlebihan. Tim Wix mengalami hal ini saat membangun asisten penjadwalan. Permintaan sederhana pengguna seperti "Jadwalkan rapat dengan Jake" ternyata memicu masalah besar.
📉 Beban Data Mentah Meskipun instruksi prompt sudah diperhalus berulang kali, model tetap sering "berhalusinasi" (salah mengenali orang) atau memberikan respons yang lambat. Penyebabnya adalah model dipaksa memproses tumpukan data mentah (raw context) yang tidak terstruktur, boros token, dan penuh informasi tidak relevan. Ini membuat biaya operasional membengkak dan latensi menjadi tinggi.
🛠️ Metodologi: Revolusi "Context Engineering"
Wix memutuskan untuk berhenti menyalahkan model dan mulai memperbaiki data input melalui disiplin Context Engineering. Ini adalah proses membersihkan, menata, dan mengoptimalkan data di lapisan preprocessing sebelum data tersebut menyentuh LLM. Mereka menerapkan empat praktik terbaik:
🥇 Ranking Utilitas Mengurutkan kandidat kontak berdasarkan skor relevansi (kecocokan nama, sejarah interaksi) sehingga LLM langsung melihat data terpenting di urutan atas prioritas.
🏷️ Human-Readable Slugs Mengganti ID database yang rumit (UUID) dengan slug yang mudah dibaca (misal: "john-smith"). Ini lebih hemat token dan mengurangi risiko halusinasi angka acak.
🗜️ Kompresi Token Mengubah format JSON yang bersarang (nested) dan gemuk menjadi satu baris teks padat, mengurangi penggunaan token hingga 96%.
🎯 Output Minimal Memaksa LLM hanya mengembalikan objek JSON kecil (misal: {"chosen_slug": "john-smith"}), karena semakin sedikit token yang dihasilkan model, semakin cepat dan murah biayanya.
⚡ Findings: Lebih Cepat, Lebih Murah, Lebih Cerdas
Hasil dari pergeseran strategi ini sangat transformasional. Dengan data input yang sudah matang, Wix tidak lagi memerlukan model kelas berat yang mahal.
📉 Biaya & Kecepatan Tim berhasil beralih menggunakan model Gemini Flash 2.0 yang jauh lebih efisien. Hasil akhirnya adalah peningkatan kecepatan sebesar 46% dan pengurangan biaya operasional yang fantastis hingga 23 kali lipat dibandingkan baseline awal.
💎 Efisiensi Model Terbukti bahwa dengan konteks yang teroptimasi, model "Flash" (model cepat/murah) mampu mengungguli kinerja model "Pro" (seperti GPT-4) dalam tugas spesifik ini, karena beban kerja kognitif berat sudah diselesaikan di tahap preprocessing.
⚙️ How to Use: Implementasi di Produk Anda
Jika Anda membangun aplikasi berbasis LLM, berhentilah mengirimkan raw JSON dari database Anda langsung ke prompt.
🏗️ Middleware Cerdas Bangunlah lapisan middleware yang bertugas menyortir dan memadatkan data. Pastikan data yang masuk ke LLM adalah "sari pati" informasi, bukan "bahan mentah".
🔍 Logic di Code, Bukan di Prompt Gunakan sistem scoring di kode aplikasi (Python/JS) Anda untuk menentukan prioritas data, sehingga LLM hanya bertugas sebagai validator akhir atau pengambil keputusan dari opsi yang sudah sangat jelas.
🗝️ Key Takeaways
🧱 Context > Prompt Keberhasilan agen AI modern lebih ditentukan oleh pengendalian data input (context) daripada sekadar kata-kata manis dalam instruksi prompt.
💰 Flash is the new Pro Dengan Context Engineering yang kuat, Anda bisa menggunakan model yang jauh lebih murah (Flash models) untuk mendapatkan hasil yang setara atau lebih baik daripada model mahal.
📉 Latency Hack Cara paling efektif memangkas latensi bukan hanya dengan model cepat, tapi dengan membatasi jumlah token yang harus dihasilkan (output) oleh model tersebut secara ketat.
💬 Interaksi Pembaca
Apakah tim AI Anda masih membiarkan LLM melakukan pekerjaan berat menyortir data mentah ("heavy lifting"), atau Anda sudah mulai membangun lapisan preprocessing cerdas untuk menghemat biaya API?
Sumber:
https://www.wix.engineering/post/the-art-behind-better-ai-how-we-achieved-a-46-speed-boost-and-23-cost-reduction
#WixEngineering #ContextEngineering #LLMOps #AIPerformance #GeminiFlash #CostOptimization #SoftwareArchitecture #PromptEngineering #TechCaseStudy
