Sejak munculnya ChatGPT, ledakan AI telah berlangsung selama dua tahun. Selama kurun waktu tersebut, masyarakat umum telah terpesona oleh kemampuan model bahasa yang besar, yang dapat menghasilkan teks yang halus dan alami dari perintah-perintah sederhana, mengubah skenario fiksi ilmiah menjadi kenyataan.
Bidang model besar juga memasuki fase kritis, di mana teknologi baru harus diubah menjadi produk baru yang memenuhi kebutuhan nyata dan berkembang menjadi ekosistem komersial baru.
Sama seperti pembayaran seluler, telepon pintar, dan LTE secara kolektif mendorong kemakmuran era internet seluler, industri AI juga mencari kesesuaian produk-pasar (PMF) pada tahun 2024.
Era penjelajahan teknologi baru telah dimulai, dan apakah batas baru dapat ditemukan akan menentukan apakah model besar hanyalah permainan modal yang menghabiskan uang, pengulangan gelembung internet, atau, seperti yang dikatakan Jensen Huang, awal dari revolusi industri baru. Jawaban ini akan terungkap lebih cepat daripada kecerdasan umum buatan (AGI).
Masalah Besar dengan Model Besar
Saat ini, persaingan dalam model-model dasar pada dasarnya telah stabil. Dipimpin oleh OpenAI, dengan ChatGPT yang memegang kendali pasar dengan kuat, pemain lain seperti Anthropic, DeepMind, Llama, dan Grok masing-masing memiliki kekuatan.
Jadi, hal yang paling menarik pada tahun 2024 bukanlah siapa yang memperluas parameter atau meningkatkan kecepatan respons, tetapi bagaimana teknologi model besar dapat menjadi produk yang dapat digunakan.
Sejak awal, penerapan teknologi model bahasa yang besar telah menjadi tantangan. Harvard Business Review melakukan survei dan menemukan bahwa terdapat sebanyak 100 jenis aplikasi AI generatif.
Namun, mereka terbagi dalam lima kategori utama: pemecahan masalah teknis, produksi dan penyuntingan konten, dukungan pelanggan, pembelajaran dan pendidikan, serta kreasi dan penelitian artistik.
Perusahaan investasi ternama a16z telah membagikan produk AI generatif terbaik dari tim mereka, termasuk nama-nama yang sudah dikenal seperti Perplexity, Claude, dan ChatGPT. Ada juga produk yang lebih khusus seperti aplikasi pencatatan Granola, Wispr Flow, Every Inc., dan Cubby. Di sektor pendidikan, pemenang terbesar tahun 2024 adalah NotebookLM, bersama dengan chatbot seperti Character.ai dan Replika.
Bagi pengguna biasa, sebagian besar produk ini gratis, dan versi langganan atau profesional bukanlah biaya yang diperlukan. Bahkan untuk pemain kuat seperti ChatGPT, pendapatan langganan pada tahun 2024 adalah sekitar $283 juta per bulan, dua kali lipat dari tahun 2023. Namun, mengingat biaya yang sangat besar, pendapatan ini tampaknya tidak signifikan.
Menikmati kemajuan teknologi merupakan suatu kegembiraan bagi pengguna biasa, tetapi bagi para profesional industri, betapa pun menariknya evolusi teknologi, hal itu tidak dapat tetap berada di laboratorium; ia harus memasuki dunia komersial untuk pengujian. Model berlangganan belum diterima secara luas, dan waktu untuk menyematkan iklan belum tiba. Waktu yang tersisa bagi model besar untuk menghabiskan uang hampir habis.
Sebaliknya, pengembangan berorientasi bisnis lebih menjanjikan.
Sejak 2018, penyebutan AI dalam laporan pendapatan Fortune 500 meningkat hampir dua kali lipat. Dalam semua laporan pendapatan, 19.7% catatan menyebutkan AI generatif sebagai topik yang paling banyak dibahas.
Hal ini juga menjadi konsensus seluruh industri. Menurut buku biru “Artificial Intelligence Development Report (2024)” yang dirilis oleh China Academy of Information and Communications Technology, pada tahun 2026, lebih dari 80% perusahaan akan menggunakan API AI generatif atau menerapkan aplikasi generatif.
Aplikasi untuk perusahaan dan konsumen menunjukkan tren pengembangan yang berbeda: aplikasi yang ditujukan kepada konsumen menekankan hambatan rendah dan kreativitas, sementara aplikasi yang ditujukan kepada perusahaan lebih fokus pada kustomisasi profesional dan umpan balik efisiensi.
Dengan kata lain, peningkatan efisiensi adalah sesuatu yang dikejar dan ingin dicapai oleh setiap perusahaan, tetapi sekadar menyebutkan empat kata ini saja sudah terlalu samar. Model-model besar perlu membuktikan bahwa mereka benar-benar dapat memecahkan masalah dalam kasus penggunaan dan benar-benar meningkatkan efisiensi.
Menemukan Titik Masuk yang Tepat untuk Menerapkan Teknologi
Baik dalam hal investasi sumber daya maupun upaya perluasan pasar, persaingan Tiongkok dalam model besar sangat ketat sepanjang tahun 2024.
Menurut data dari Kementerian Perindustrian dan Teknologi Informasi Tiongkok, tingkat pertumbuhan pasar model bahasa besar Tiongkok pada tahun 2023 melampaui 100%, mencapai sekitar $2 miliar. Perusahaan-perusahaan secara aktif bereksperimen dengan komersialisasi, awalnya terlibat dalam perang harga: mengurangi biaya melalui penagihan berbasis token, panggilan API, dan metode lainnya. Banyak model besar arus utama kini hampir gratis.
Menurunkan harga dan biaya relatif mudah dicapai. Namun, memahami bisnis dan menganalisis skenario masuk merupakan jalan yang lebih menantang.
Tidak semua perusahaan berpartisipasi dalam perang harga, mengandalkan persaingan biaya rendah.
“Dalam situasi ini, yang lebih penting adalah menemukan fitur unik kami dan memanfaatkan kekuatan kami. Tencent memiliki banyak skenario internal yang memberi kami lebih banyak wawasan dan lebih meningkatkan kemampuan kami,” kata Zhao Xinyu, Spesialis Produk AI di Tencent Cloud dan Kepala Produk Tencent Hunyuan ToB. “Secara eksternal, kami fokus pada satu industri, berkonsentrasi pada skenario tertentu dalam industri tersebut, lalu secara bertahap berkembang.”
Di antara banyak model mendasar, Hunyuan mungkin bukan yang paling menarik perhatian, tetapi kekuatan teknisnya tidak dapat disangkal.
Pada bulan September 2023, Hunyuan merilis model teks-ke-teks umum Hunyuan Turbo, yang mengadopsi struktur Mixture of Experts (MoE) yang baru. Model ini berkinerja baik dalam pemahaman dan pembuatan bahasa, penalaran logis, pengenalan maksud, serta tugas pengodean, konteks panjang, dan agregasi. Dalam versi pembaruan dinamis bulan November 2023, model ini ditingkatkan ke model dengan kinerja terbaik secara menyeluruh. Saat ini, kemampuan Tencent Hunyuan sepenuhnya dihadirkan melalui Tencent Cloud, yang menawarkan berbagai ukuran dan jenis model, yang dipadukan dengan produk dan kemampuan AI lainnya dari Tencent Cloud Intelligence, untuk membantu aplikasi model masuk ke dalam skenario.
Saat ini, bentuk aplikasi model secara garis besar dibagi menjadi dua jenis: skenario serius dan skenario hiburan. Yang terakhir termasuk chatbot, aplikasi pendamping, dll.
"Skenario serius" merujuk pada aplikasi dalam operasi bisnis inti perusahaan, yang sangat menuntut keakuratan dan keandalan. Dalam skenario ini, model besar perlu menangani informasi terstruktur, biasanya mengikuti proses bisnis dan standar kualitas yang telah ditetapkan, dan efek aplikasinya terkait langsung dengan efisiensi operasional dan hasil bisnis perusahaan.
Tencent Cloud pernah membantu penyedia layanan outbound membangun sistem layanan pelanggan, yang merupakan skenario serius yang umum. Panggilan outbound melibatkan kemampuan dialog bahasa alami, pemahaman konten, dan kemampuan analisis, yang sangat kompatibel dengan model bahasa besar.
Sebenarnya, tantangannya terletak pada detailnya. Saat itu, tim menghadapi dua tantangan inti. Salah satunya adalah masalah kinerja, karena ukuran parameter model sangat besar, mencapai skala 70B atau 300B, bagaimana menyelesaikan respons dalam waktu 500 milidetik dan meneruskannya ke sistem TTS hilir menjadi tantangan teknis yang penting.
Yang kedua adalah keakuratan logika dialog. Model tersebut terkadang menghasilkan respons yang tidak logis dalam beberapa dialog, yang memengaruhi efek dialog secara keseluruhan. Untuk mengatasi tantangan ini, tim proyek mengadopsi strategi iterasi intensif, dengan mempertahankan kecepatan iterasi cepat satu versi per minggu dalam siklus pengembangan 1-2 bulan.
Pelanggan perusahaan menunjukkan minat pada teknologi model bahasa yang besar dan bersedia mencoba inovasi, tetapi selalu ada kesenjangan kognitif dalam integrasi teknologi dan bisnis yang mendalam. Hal ini tidak berasal dari kurangnya pemahaman perusahaan terhadap bisnis mereka sendiri, tetapi memerlukan tim teknis profesional untuk memahami secara mendalam kendala industri dan skenario bisnis, menemukan skenario yang paling sesuai, menyesuaikan solusi pendaratan AI untuk perusahaan, dan mencapai kombinasi terbaik antara teknologi dan bisnis.
“Pendekatan tradisional mungkin mengharuskan operator untuk membangun (korpora) satu skenario pada satu waktu,” jelas Xinyu, “tetapi dengan model yang besar, Anda hanya perlu memberikan perintah untuk memenuhi permintaan.” Setelah mengklarifikasi permintaan, tim Hunyuan hampir memperbarui satu versi setiap minggu, mempercepat kecepatan iterasi, dan dalam waktu satu atau dua bulan, akurasinya mencapai 95%.
Bagi penyedia layanan outbound ini, teknologi generatif benar-benar baru. Hunyuan secara langsung menunjukkan kepada mereka manfaat yang dibawa oleh model-model besar, mengurangi biaya tenaga kerja hingga tiga perempat.
“Pendekatan terbaik adalah dengan menunjukkan efeknya,” kata Xinyu. Ketika pelanggan memiliki pemahaman tentang teknologi generatif tetapi tidak banyak, menunjukkan efeknya adalah cara yang paling efektif. Dengan menemukan skenario yang dapat dimasukkan melalui pengalaman bisnis pelanggan, melakukan verifikasi pengujian secara langsung, dan menunjukkan peningkatan yang dapat dicapai.
Pengalaman serupa terjadi dalam kerja sama dengan Xiaomi, yang digambarkan sebagai “perjalanan dua arah.”
Pihak lain ingin memperkenalkan model besar ke dalam interaksi Q&A, dengan menerapkan kemampuan pencarian AI ke terminal. Hal ini berdampak pada dua kekuatan Hunyuan: dukungan yang diberikan oleh ekosistem konten Tencent yang kaya dan kemampuan Hunyuan dalam pencarian AI. Untuk Q&A, akurasi sangatlah penting.
“Masih banyak kesulitan di awal,” kenang Xinyu. “Dari sudut pandang mereka, formulir bisnis mencakup berbagai skenario, termasuk obrolan santai, tanya jawab pengetahuan, dan jenis lainnya, di antaranya skenario tanya jawab pengetahuan memiliki persyaratan akurasi yang relatif tinggi.”
Melalui pengujian awal, tim Hunyuan mengklarifikasi keunggulan mereka dalam skenario pencarian, dan bersama dengan pihak lain, secara bertahap menyempurnakan interaksi Tanya Jawab yang didefinisikan secara luas menurut berbagai tingkat topik. Segmentasi semacam ini memungkinkan model untuk lebih memahami kebutuhan spesifik dan persyaratan efek dari setiap skenario, sehingga melakukan pengoptimalan yang lebih terarah.
Skenario tanya jawab pengetahuan menjadi titik awal. Dalam implementasi berikutnya, Hunyuan masih menghadapi banyak tantangan yang harus diatasi: masalah latensi tidak perlu disebutkan, waktu respons harus cepat; kedua, integrasi konten pencarian.
“Di seluruh tautan, kami membangun mesin pencari yang dikembangkan sendiri dan model klasifikasi maksud untuk menentukan apakah itu pertanyaan yang sangat relevan. Misalnya, apakah itu terkait dengan berita atau topik terkini, lalu memutuskan apakah akan memberikannya ke model utama atau pencarian AI.”
Hanya menghubungi bagian yang paling dibutuhkan akan meningkatkan kecepatan respons secara signifikan. Penemuan penting adalah bahwa 70% permintaan mengarah ke pencarian AI, yang berarti harus ada konten yang cukup lengkap sebagai dukungan panggilan paling dasar.
Di balik Hunyuan terdapat seluruh ekosistem konten Tencent. Dari berita, musik, keuangan, hingga perawatan kesehatan, ekosistem Tencent menawarkan banyak konten berkualitas tinggi. Konten ini dapat diakses dan dirujuk oleh model Hunyuan selama pencarian, sehingga memberikan keuntungan yang unik.
Setelah lebih dari dua bulan iterasi intensif, kualitas respons, kecepatan respons, dan kinerja telah sepenuhnya memenuhi persyaratan dan telah diterapkan dalam operasi bisnis Xiaomi yang sebenarnya.
Kunci bisnis B2B adalah menghasilkan pendapatan dan memperoleh kepercayaan, yang memerlukan penyampaian nilai riil pada operasi klien.
Generalisasi “Roll” untuk Menjangkau Lebih Banyak Skenario
Penerapan model besar di berbagai industri dan produk juga mendorong pertumbuhan teknologi itu sendiri.
Untuk beberapa produk model besar, memilih jalur B2C melibatkan pertimbangan inti: menggunakan umpan balik konsumen untuk mengoptimalkan model. Kebutuhan untuk menyempurnakan model besar tidak terbatas, dan jumlah serta aktivitas pengguna konsumen menyediakan bahan bakar untuk iterasi model, sehingga mempercepat kecepatan iterasi.
Faktanya, hal ini juga tercapai dalam bisnis B2B, dengan tuntutan yang bahkan lebih tinggi.
Fitur penilaian esai bahasa Mandarin K12 dari “Teenager Gains” memanfaatkan kemampuan multimoda Hunyuan. Dikombinasikan dengan teknologi OCR cerdas Tencent Cloud, fitur ini mengenali konten esai siswa dan menggunakan model besar untuk menilai esai berdasarkan standar penilaian yang telah ditetapkan.
Biasanya, jika selisih skor antara model besar dan guru manusia berada dalam kisaran lima poin, maka model tersebut dianggap baik—tetapi hal ini tidak mudah dicapai. Awalnya, hanya 80% skor Hunyuan yang berada dalam kisaran lima poin dari skor guru manusia.
“Model ini memiliki metode dan kemampuan tertentu untuk memecahkan masalah dalam beberapa skenario. Namun, ketika berfokus pada bisnis klien tertentu, diperlukan kinerja yang lebih tinggi,” kata Xinyu. “Meskipun akurasi 90% dapat memenuhi sasaran bisnis, pada 70% atau 80%, masih ada kesenjangan.”
Ini berarti diperlukan upaya berkelanjutan. Seiring dengan berkembangnya basis klien perusahaan, tuntutan baru dibebankan pada teknologi itu sendiri: pertama, peningkatan signifikan dalam kecepatan iterasi—iterasi untuk pengguna konsumen mungkin memerlukan waktu satu hingga dua bulan, tetapi kini versi baru dapat muncul setiap minggu. Iterasi frekuensi tinggi ini sangat mendorong pertumbuhan dan kemajuan model.
Kedua, terus-menerus melayani berbagai skenario perusahaan telah meningkatkan kemampuan generalisasi model secara signifikan. Ini menunjukkan bahwa melayani berbagai kebutuhan perusahaan secara mendalam tidak hanya mempercepat laju pengembangan dan iterasi model, tetapi juga meningkatkan kepraktisan dan kemampuan beradaptasi model, yang memungkinkannya berkembang dari skenario serius ke skenario yang lebih berorientasi hiburan.
Platform konten permainan peran "Dream Dimension," yang baru-baru ini mendapatkan pendanaan Seri A senilai puluhan juta dolar, telah menerapkan model permainan peran eksklusif Hunyuan, Hunyuan-role, yang ditujukan untuk melayani pengguna muda. Platform ini menggabungkan teknologi AI generatif untuk memberikan pengalaman interaksi karakter virtual yang interaktif dan berbasis cerita.
Hunyuan-role telah memelopori bentuk baru interaksi manusia-komputer. Dengan menciptakan beragam gambar karakter virtual dan berdasarkan latar belakang cerita dan pengaturan karakter yang telah ditetapkan, ia melibatkan pengguna dalam dialog interaktif yang alami dan lancar.
Pada tingkat teknis, aplikasi skenario semacam itu telah menunjukkan keunggulan utama Hunyuan-role dalam menangani dialog teks panjang dan pendek, pengenalan maksud, dan respons. Hunyuan-role dapat menangani beragam skenario aplikasi dan menunjukkan kemampuan humanisasi konten yang sangat baik—tidak hanya terlibat dalam interaksi dialog yang hangat tetapi juga memajukan alur cerita untuk menciptakan pengalaman pengguna yang mendalam.
Fitur-fitur ini menjadikan Hunyuan-role sebagai alat yang ampuh untuk akuisisi pelanggan produk dan operasi pengguna, yang memainkan peran penting dalam meningkatkan retensi dan keterlibatan pengguna. Hal ini juga mencerminkan bahwa Hunyuan, yang diasah dan ditingkatkan dalam skenario yang serius, telah mengembangkan kemampuan generalisasi yang dapat mencakup skenario yang lebih luas, bahkan dalam aplikasi sisi akhir.
Berkembang dari skenario serius ke hiburan, kreativitas, dan banyak lagi adalah perjalanan yang harus dilakukan oleh aplikasi model besar.
Seiring dengan semakin matangnya teknologi dan menurunnya biaya, model-model besar pasti akan berkembang ke dalam skenario aplikasi yang lebih luas. Awalnya difokuskan pada skenario bisnis yang serius seperti pekerjaan kantor perusahaan, analisis data, dan penelitian ilmiah, area-area ini memiliki permintaan yang jelas dan keinginan yang lebih tinggi untuk membayar.
Perluasan lebih lanjut ke dalam hiburan, kreativitas, dan produksi konten memerlukan jangkar strategis: selalu berfokus pada penyelesaian kebutuhan skenario spesifik sebagai tujuan inti, menentukan titik masuk untuk mengintegrasikan kemampuan model besar.
Selain berkolaborasi dengan perangkat lunak aplikasi, kemitraan dengan produsen perangkat keras juga diperlukan agar model tersebut dapat bekerja dan berfungsi pada sisi yang berhadapan dengan konsumen, menyediakan layanan yang lebih dekat dengan kehidupan sehari-hari pengguna, dan menawarkan pengalaman layanan yang lebih nyaman dan langsung.
Dalam proses ini, kesadaran pasar dan penerimaan teknologi AI generatif terus meningkat, dan basis pengguna terus berkembang. Dalam menghadapi lingkungan pasar yang berubah dengan cepat ini, kemampuan iterasi model menjadi sangat penting. Hal ini tidak hanya tercermin dalam kinerja teknis tetapi juga dalam memahami kebutuhan pengguna, beradaptasi dengan berbagai skenario, dan banyak lagi. Hanya model dan tim yang dapat belajar dengan cepat, terus mengoptimalkan, dan terus beradaptasi dengan tuntutan baru yang dapat mempertahankan keunggulan dalam persaingan.
Karena semakin banyak skenario yang terus-menerus dicakup, jangkauan ke lebih banyak konsumen akhir juga meluas. Dengan penerimaan pasar secara keseluruhan terhadap teknologi generatif, basis pengguna potensial akan terus tumbuh. Model yang dapat dengan cepat beriterasi dan memperbaiki diri dapat beradaptasi dengan perubahan, bergerak lebih mantap dan lebih jauh.
Sumber dari jika
Penafian: Informasi yang diuraikan di atas disediakan oleh ifanr.com, independen dari Chovm.com. Chovm.com tidak membuat pernyataan dan jaminan mengenai kualitas dan keandalan penjual dan produk. Chovm.com secara tegas melepaskan tanggung jawab apa pun atas pelanggaran yang berkaitan dengan hak cipta konten.
