OpenAI ต่อ Google: การแข่งขันเพื่อ AI ที่มีประสิทธิภาพ

ทั้ง OpenAI และ Google กำลังเร่งรีบพัฒนาประสิทธิภาพของโมเดล เพื่อลดต้นทุน ความล่าช้า และการปล่อยก๊าซเรือนกระจก ขณะที่รักษาคุณภาพของผลลัพธ์ไว้

เครื่องมือเพื่อประสิทธิภาพ

• ความหนาแน่นต่ำและโมเดลผสม (Mixture-of-Experts): กระตุ้นพารามิเตอร์น้อยลงต่อแต่ละตัวอักษร เพื่อลด FLOPs
• การปรับขนาด (Quantization) และการส่งต่อ (Distillation): ลดน้ำหนักโมเดลและโมเดลที่เรียนรู้ตามมา เพื่อใช้งานบนอุปกรณ์ปลายทางและอุปกรณ์มือถือ
• การจัดเก็บข้อมูลและการดึงข้อมูล: ลดการสร้างข้อความโดยการใช้บริบทที่เคยใช้แล้ว และยืนยันคำตอบจากข้อมูลภายนอก
• คอมไพล์รูปแบบการคำนวณ (Inference compilers): โค้ดที่รวมการดำเนินการต่างๆ และจัดลำดับการทำงานบน GPU หรือ TPU อย่างใกล้ชิด

ความสำคัญของเรื่องนี้

• ต้นทุนต่อหน่วยต่ำลง: ราคาต่อ 1,000 ตัวอักษรที่ต่ำลง และมีมาร์จิ้นที่คาดการณ์ได้มากขึ้น
• ความล่าช้าต่ำลง: ตอบสนองเร็วขึ้น ทำให้สามารถใช้งานกับแอปพลิเคชันที่ต้องการความเร็วจริงเวลาและใช้งานผ่านเสียง
• ความยั่งยืน: ใช้พลังงานน้อยลงต่อคำขอ ลดผลกระทบทางสิ่งแวดล้อมของระบบขนาดใหญ่

สัญญาณที่ควรติดตาม

• การปรับราคาของโมเดลหลักและชั้นความจุที่เฉพาะเจาะจง
• รูปแบบที่ใช้งานได้บนอุปกรณ์ปลายทาง ที่มีการกรองความปลอดภัยที่แข็งแกร่งและข้อจำกัดที่เหมาะสมกับการใช้งานที่ไม่ต้องเชื่อมต่ออินเทอร์เน็ต
• ข้อมูลที่เปรียบเทียบประสิทธิภาพที่ดีขึ้น โดยไม่ส่งผลเสียต่อความปลอดภัยหรือการคิดวิเคราะห์

สำหรับทีมงาน: วิเคราะห์ข้อมูลที่ใช้ในการถาม ตัดสินใจลบบริบทที่ไม่จำเป็น และวางแผนการเปลี่ยนไปใช้ชั้นที่มีประสิทธิภาพเมื่อห้องทดลองเปิดตัวชั้นใหม่