الترميز هو مجرد حالة خاصة من "التجزئة" - بناء بيانات منخفضة المستوى في تجريدات عالية المستوى - وهو أمر أساسي بدوره للذكاء. بنيتنا الجديدة ، التي تتيح * التقسيم الديناميكي * الهرمي * ، ليست خالية من الرموز المميزة فحسب ، بل ببساطة تتوسع بشكل أفضل.
Sukjun (June) Hwang
Sukjun (June) Hwang‏12 يوليو 2025
كان الترميز هو العائق الأخير أمام نماذج اللغة الشاملة حقا. قمنا بتطوير H-Net: شبكة هرمية تستبدل الترميز بعملية تقسيم ديناميكية مباشرة داخل النموذج ، وتكتشف تلقائيا وتعمل على وحدات ذات مغزى من البيانات
كان هذا مشروعا مهما للغاية بالنسبة لي - كنت أرغب في حله لسنوات ، لكن لم يكن لدي أي فكرة عن كيفية القيام بذلك. كان هذا كل @sukjun_hwang وعمل @fluorane المذهل! كتبت عن قصة تطورها ، وما قد يحدث بعد ذلك. شبكة H:
‏‎194.75‏K