Model Pintar Terbesar di Dunia - Gambar diambil dari Internet, jika ada keluhan hak cipta silakan hubungi kami.
Beijing, Bolong.id – Pada tanggal 1 Juni, Institut Penelitian Kecerdasan Buatan Zhiyuan Beijing merilis model cerdas ultra-besar "Pencerahan 2.0" pada Konferensi Zhiyuan Beijing 2021. Dilaporkan bahwa skala parameternya mencapai 1,75 triliun, yang merupakan 10 kali lipat dari model AI GPT-3, memecahkan rekor parameter 1,6 triliun yang sebelumnya dibuat oleh model pra-pelatihan Google Switch Transformer, dan saat ini merupakan yang pertama dan pertama di Tiongkok model tingkat triliun terbesar di dunia.
Dilansir dari World Web Wide ( 环球网 ) pada Selasa (01/06/21), Zhang Hongjiang, ketua Zhiyuan Research Institute, mengatakan bahwa saat ini, "model besar + daya komputasi besar" adalah jalan yang layak menuju kecerdasan buatan umum. Model besar sangat penting untuk pengembangan kecerdasan buatan. Di masa depan, infrastruktur industri AI transformatif yang mirip dengan jaringan listrik akan dibentuk berdasarkan model besar. Model besar AI setara dengan "pembangkit listrik", yang mengubah data, yaitu, "bahan bakar", menjadi kemampuan cerdas untuk menggerakkan berbagai aplikasi AI. Jika model besar terhubung dengan semua aplikasi AI untuk menyediakan pengguna dengan kemampuan cerdas terpadu, seluruh masyarakat akan membentuk jaringan untuk produksi dan penggunaan kemampuan cerdas, yaitu, "jaringan cerdas". Model besar adalah platform dasar berikutnya untuk AI dan infrastruktur strategis untuk pengembangan AI di masa depan.
Profesor Tang Jie, wakil dekan akademik Institut Penelitian Zhiyuan, mengatakan bahwa model cerdas model super besar "Pencerahan" bertujuan untuk menciptakan kecerdasan kognitif yang didorong oleh data dan pengetahuan, memungkinkan mesin untuk berpikir seperti manusia dan mencapai mesin yang melampaui kemampuan kognitif. Tim "Pencerahan" telah melakukan banyak pekerjaan dasar dalam penelitian dan pengembangan model pra-pelatihan skala besar, membentuk sistem inovasi teknologi model cerdas skala besar independen, yang memiliki dari teknologi teoretis pra-pelatihan hingga pra-pelatihan, alat pelatihan, hingga konstruksi model pra-pelatihan dan model akhir rantai evaluasi lengkap secara teknis lengkap dan matang. "Pencerahan 2.0" mewujudkan "besar dan cerdas", dengan karakteristik skala besar, presisi tinggi, dan efisiensi tinggi.
Dapat dipahami bahwa teknologi FastMoE yang dikembangkan oleh tim "Pencerahan" adalah kunci untuk memecahkan hambatan teknologi asing dan mewujudkan landasan "Model Triliun". FastMoE yang diteliti dan open source adalah sistem MoE pertama yang mendukung kerangka kerja PyTorch, yang mudah digunakan, fleksibel, berkinerja tinggi, dan mendukung pelatihan paralel skala besar. Selain itu, ia juga mendukung strategi penyeimbangan yang kompleks seperti Switch, GShard, dan model yang berbeda. (*)
Informasi Seputar Tiongkok
Advertisement
