DEAL TECHNO | 16 November 2024 – Setelah lebih dari satu dekade mengandalkan pendekatan “bigger is better” dalam pengembangan kecerdasan buatan (AI), perusahaan seperti OpenAI kini mencari cara baru untuk melatih algoritma mereka agar lebih efisien dan mendekati pola pikir manusia. Langkah ini dianggap sebagai solusi atas keterbatasan model bahasa besar yang mulai terlihat belakangan ini.
Menurut laporan Reuters (11/11), ilmuwan dan peneliti di berbagai laboratorium AI telah mulai mengeksplorasi teknik yang mengedepankan “pemikiran” algoritma secara lebih manusiawi. Salah satu pendekatan tersebut adalah “test-time compute,” yang memungkinkan model untuk mengevaluasi berbagai kemungkinan sebelum memilih solusi terbaik. Teknik ini terbukti memberikan hasil serupa dengan metode tradisional yang membutuhkan sumber daya jauh lebih besar.
“Noam Brown, peneliti di OpenAI, mengatakan pada konferensi TED AI di San Francisco bulan lalu bahwa metode ini dapat memberikan peningkatan performa setara dengan melatih model 100.000 kali lebih lama,” kutip Reuters.
Kendala dan Batasan yang Dihadapi
Pendekatan lama, yang mengandalkan penambahan data dan kekuatan komputasi, terbukti memiliki banyak keterbatasan. Ilya Sutskever, salah satu pendiri OpenAI yang kini memimpin Safe Superintelligence (SSI), mengakui bahwa hasil dari metode tersebut mulai stagnan.
“Era 2010-an adalah era skalabilitas besar-besaran, tetapi kini kita kembali ke era penemuan dan keajaiban,” ujar Sutskever kepada Reuters. Ia menekankan bahwa “mengembangkan hal yang tepat” kini menjadi lebih penting dibandingkan sekadar memperbesar model.
Selain itu, masalah energi, kegagalan perangkat keras, dan data yang semakin sulit diakses menjadi tantangan besar lainnya dalam pelatihan model bahasa besar.
Model Baru yang Mengubah Lanskap
Model terbaru OpenAI, o1, merupakan hasil penerapan teknik baru ini. Dengan kemampuan untuk menyelesaikan masalah secara multi-langkah, model ini dapat meniru cara manusia berpikir dalam menyelesaikan masalah kompleks. Selain itu, o1 juga memanfaatkan data dan umpan balik dari para ahli di berbagai bidang.
Pendekatan serupa juga sedang dikembangkan oleh Google DeepMind, Anthropic, dan xAI, menurut beberapa sumber yang dikutip *Reuters*. Kevin Weil, Chief Product Officer OpenAI, menyebutkan bahwa langkah ini akan membuat OpenAI tetap unggul. “Saat orang lain mengejar, kami sudah tiga langkah di depan,” katanya.
Dampak pada Industri AI dan Hardware
Pergeseran ini juga berpotensi mengubah permintaan terhadap perangkat keras AI. Selama ini, Nvidia mendominasi pasar chip untuk pelatihan model besar. Namun, menurut Sonya Huang, mitra di Sequoia Capital, permintaan akan bergeser ke server berbasis cloud untuk inferensi, yang dapat membuka peluang bagi kompetitor baru.
CEO Nvidia, Jensen Huang, menegaskan pentingnya teknik ini dalam meningkatkan permintaan chip untuk inferensi. “Kami telah menemukan hukum skalabilitas kedua, yang berlaku pada fase inferensi,” ungkapnya dalam sebuah konferensi di India.
Dengan langkah-langkah inovatif ini, masa depan AI tampak bergerak menuju pendekatan yang lebih efisien dan berkelanjutan, sambil tetap mengedepankan kemampuan pemrosesan yang menyerupai manusia. (Sumber: Reuters)
