bukamata.id – OpenAI meluncurkan Astra, model kecerdasan artifisial (AI) terbaru yang disebut sebagai model paling canggih dan cerdas yang pernah dikembangkan perusahaan tersebut.
Model ini dirancang untuk menangani berbagai pekerjaan kompleks, termasuk penggunaan komputer, peramban, pemrograman, hingga keamanan siber.
Peluncuran Astra menjadi perhatian karena kemampuan model tersebut tidak hanya ditujukan untuk menjawab pertanyaan, tetapi juga menjalankan tugas secara lebih mandiri melalui komputer dan berbagai perangkat digital.
OpenAI menyebut Astra memiliki peningkatan dalam kecepatan, akurasi, serta kemampuan menjalankan pekerjaan kompleks. Model tersebut juga diklaim menjadi model OpenAI yang paling selaras atau aligned hingga saat ini.
Astra Punya Kemampuan Canggih untuk Komputer dan Coding
Salah satu kemampuan utama Astra adalah menjalankan tugas yang membutuhkan interaksi langsung dengan komputer dan peramban.
Model ini dikembangkan untuk membantu menyelesaikan pekerjaan yang sebelumnya membutuhkan banyak langkah manual. Kemampuan tersebut membuat Astra tidak hanya berfungsi sebagai chatbot, tetapi juga sebagai sistem AI yang dapat menjalankan rangkaian tugas secara lebih mandiri.
Di bidang pemrograman, Astra disebut sebagai salah satu model OpenAI dengan kemampuan rekayasa perangkat lunak terbaik. Model ini mampu membantu menemukan bug, menjalankan perintah melalui terminal, serta memahami dan bekerja dengan basis kode.
Kemampuan tersebut menjadi bagian dari perkembangan AI menuju sistem yang dapat mengerjakan tugas secara end-to-end, bukan sekadar memberikan jawaban berbasis teks.
OpenAI Astra Punya Kemampuan Keamanan Siber
Salah satu aspek yang paling banyak mendapat perhatian adalah kemampuan Astra dalam keamanan siber.
Sebelum peluncuran, OpenAI menyatakan Astra telah mencapai ambang kemampuan keamanan siber yang disebut sebagai tingkat “critical”. Artinya, dalam pengujian tertentu, model tersebut mampu menemukan kerentanan keamanan yang sebelumnya tidak diketahui dan mengeksploitasinya tanpa panduan manusia.
OpenAI juga melaporkan bahwa Astra berhasil memperoleh hasil sangat tinggi dalam pengujian kemampuan eksploitasi kerentanan. Dalam pengujian yang dimodifikasi oleh tim OpenAI, Astra disebut mampu menemukan dan mengeksploitasi dua kerentanan zero-day.
Karena kemampuan tersebut berpotensi disalahgunakan, OpenAI menerapkan pembatasan terhadap akses ke kemampuan keamanan siber tingkat lanjut Astra.
Model tersebut pada awalnya diperkenalkan kepada kelompok pengguna tertentu yang berfokus pada keamanan siber sebelum akses diperluas secara bertahap.
Greg Brockman Sebut Astra Model OpenAI Paling Cerdas
Presiden OpenAI Greg Brockman menggambarkan Astra sebagai model perusahaan yang paling cerdas sekaligus memiliki tingkat alignment yang tinggi.
Astra merupakan hasil pengembangan dari penelitian OpenAI selama bertahun-tahun, termasuk peningkatan pada kemampuan penalaran, penggunaan komputer, pemrograman, dan keamanan.
OpenAI juga menyiapkan sejumlah sistem pengamanan tambahan untuk mencegah kemampuan Astra digunakan secara tidak semestinya.
Perusahaan menyatakan telah mengembangkan sistem untuk mendeteksi penyalahgunaan, memperkuat perlindungan terhadap jailbreak, serta memberikan pembatasan tambahan terhadap akun yang dinilai memiliki risiko lebih tinggi.
Teknologi Opaque Recurrence Astra Jadi Sorotan
Di balik kemampuan tinggi tersebut, Astra juga memunculkan perdebatan di kalangan peneliti keamanan AI.
Sorotan tersebut berkaitan dengan teknik penalaran yang disebut opaque recurrence atau recurrent depth. Teknik ini memungkinkan model melakukan sejumlah proses komputasi secara berulang di dalam representasi internal sebelum menghasilkan keluaran yang dapat dibaca pengguna.
Berbeda dengan pendekatan chain of thought yang menghasilkan rangkaian token penalaran, pendekatan tersebut dapat membuat sebagian proses internal model lebih sulit diamati.
Kondisi ini menimbulkan pertanyaan mengenai kemampuan manusia dalam memantau dan memahami proses penalaran model AI yang semakin kompleks.
Kenapa Opaque Recurrence Menjadi Kekhawatiran?
Pemantauan chain of thought selama ini menjadi salah satu pendekatan yang digunakan peneliti untuk mengawasi perilaku model penalaran.
Namun, ketika sebagian proses komputasi berlangsung di dalam representasi internal model, proses tersebut tidak selalu menghasilkan jejak penalaran yang mudah dibaca manusia.
TechCrunch melaporkan bahwa teknik opaque recurrence pada Astra membuat sebagian proses penalaran lebih sulit dipantau. Kekhawatiran tersebut semakin besar karena Astra juga memiliki kemampuan tingkat lanjut dalam pemrograman dan keamanan siber.
Meski demikian, penggunaan teknik tersebut pada Astra disebut masih terbatas. OpenAI juga menegaskan bahwa pemantauan chain of thought tetap menjadi bagian penting dari strategi pengawasan model.
OpenAI Tetap Fokus pada Keamanan AI
Kepala Ilmuwan OpenAI Jakub Pachocki menegaskan pentingnya menjaga kemampuan untuk memantau proses penalaran AI.
Menurut OpenAI, meningkatnya kemampuan model justru membuat pengawasan menjadi semakin penting. Sistem yang mampu mengerjakan tugas lebih kompleks membutuhkan mekanisme keamanan yang mampu mendeteksi perilaku bermasalah sebelum menimbulkan dampak yang lebih besar.
Peluncuran Astra juga berlangsung setelah muncul perhatian terhadap perilaku agen AI dalam pengujian sebelumnya, termasuk insiden yang melibatkan akses ke sistem eksternal. OpenAI kemudian memperkuat sistem pengamanan dan pemantauan untuk model generasi terbaru.
Dengan kemampuan baru yang ditawarkan, OpenAI Astra menandai perkembangan penting dalam persaingan model AI generatif. Namun, semakin besar kemampuan AI, semakin besar pula tantangan untuk memastikan teknologi tersebut tetap aman, dapat diawasi, dan digunakan secara bertanggung jawab.
Perdebatan mengenai Astra pun tidak hanya berkaitan dengan seberapa pintar model tersebut, tetapi juga seberapa jauh manusia masih mampu memahami dan mengawasi cara AI mengambil keputusan.
Baca Berita bukamata.id lainnya di Google News
