Để xác định một mô hình thế giới có thực sự hiểu vật lý hay không, không thể chỉ xem nó có biết nhắc lại lời giải thích về trọng lực hay không.

Đoạn trích chọn lọc này của AI on Air được trích từ một tập gần đây của chương trình Redpoint AI. Người phát biểu là Oriol Vinyals, Phó chủ tịch Nghiên cứu tại Google DeepMind kiêm đồng trưởng nhóm Google Gemini.

▷ Thách thức cốt lõi: Khi ngôn ngữ được đưa vào mô hình, câu trả lời về «trọng lực» có thể chỉ bắt nguồn từ những lời giải thích trên mạng mà mô hình đã đọc trong quá trình huấn luyện, chứ chưa chứng minh được rằng bên trong mô hình thế giới thực sự có khái niệm này.
▷ Đánh giá khả thi: Kết nối việc «trọng lực» có tồn tại trong biểu diễn của mô hình thế giới hay không với lời giải thích có thể giải mã được. Trước tiên, hãy xem mô hình có thể đưa ra lời giải thích cơ bản hay không, sau đó xem nó có thể suy ra phương trình hay không.
▷ Gợi ý về phương pháp: Dịch máy không giám sát thời kỳ đầu có thể căn chỉnh các biểu diễn ngôn ngữ chưa từng xuất hiện trong quá trình huấn luyện; tương tự, có thể căn chỉnh năng lực giải mã của mô hình ngôn ngữ với khả năng hiểu khái niệm ở tầng mô hình thế giới. Tuy nhiên, việc đánh giá cuối cùng phải có ý nghĩa đối với ứng dụng.🪁