AI Agent – Từ Suy Luận Đến Hành Động

[Intro – Lo-fi documentary] Không phải mọi A.I Đều được gọi là agent Có máy giải bài khó Nhưng không chạm thế giới ngoài Agent phải cảm nhận Phải chọn hành động có đích Phải làm môi trường đổi khác Qua từng vòng lặp sống [Verse 1 – Spoken rap] Turing từng đổi câu hỏi Từ nghĩ gì sang làm gì Dartmouth mở cánh cửa Cho trí tuệ nhân tạo thành ngành Logic Theorist chứng minh Bằng những ký hiệu lạnh Nó có mục tiêu rõ Nhưng chưa bước ra môi trường Rồi Shakey xuất hiện Robot biết nhìn căn phòng Biết lập kế hoạch, tìm đường Biết đẩy vật trong không gian Ở đó ba mảnh ghép Cảm nhận, quyết định, hành động Lần đầu cùng đứng lại Gần với nghĩa agent hơn [Chorus – EDM techno bolero] A.I Agent đi qua thời gian Từ ký hiệu đến vòng lặp hành động Từ phòng thí nghiệm đến đời thật Mỗi bước mạnh hơn, rủi ro cũng sâu hơn A.I Agent không chỉ trả lời Mà biết nhìn, biết chọn, biết làm Khi quyền hành động mở rộng An toàn phải đi trước hào quang [Verse 2 – Documentary rap] Thập niên bảy mươi, tám mươi Hệ chuyên gia lên ngôi MYCIN hỏi triệu chứng Rồi khuyến nghị điều trị Luật nếu thì nối tiếp Như bác sĩ trong hộp đen Giải thích được, kiểm soát được Nhưng chỉ trong miền rất hẹp Khi thế giới mở rộng Luật lệ phình như rừng Ngoại lệ chồng ngoại lệ Tri thức thành nút thắt A.I Winter kéo xuống Khi hứa hẹn vượt khả năng Muốn đi vào đời thật Agent cần học từ kinh nghiệm [Hook – Spoken sung] Viết hết luật cho thế giới Là việc không thể làm xong Môi trường luôn đổi khác Agent phải biết thích nghi [Verse 3 – BDI and multi-agent] Đến thập niên chín mươi Agent thành ngành riêng Có lý thuyết, kiến trúc Có ngôn ngữ giao tiếp BDI gọi tên ba lớp Belief, Desire, Intention Biết gì, muốn gì Và đã cam kết làm gì KQML mở lời Cho agent trao tri thức FIPA chuẩn hóa dần Để hệ khác nhau cùng nói SOAR và ACT-R Thêm trí nhớ, học tập Một giấc mơ nhận thức Cho hành vi có chiều sâu [Chorus – Stronger] A.I Agent đi qua thời gian Từ ký hiệu đến vòng lặp hành động Từ phòng thí nghiệm đến đời thật Mỗi bước mạnh hơn, rủi ro cũng sâu hơn A.I Agent không chỉ trả lời Mà biết nhìn, biết chọn, biết làm Khi quyền hành động mở rộng An toàn phải đi trước hào quang [Verse 4 – Deep Blue and AlphaGo] Deep Blue trên bàn cờ Nhìn trạng thái rồi đi nước Hai trăm triệu thế mỗi giây Đóng trong luật cờ vua AlphaGo bước tới Học ván cờ và tự chơi Policy chọn nước đi Value nhìn xa chiến thắng Lee Sedol lặng người Trước nước đi không quen mắt Không ai viết hết chiến thuật Máy học ra đường riêng Nhưng học sâu có cái giá Khó giải thích đường đi Sai phần thưởng, lệch mục tiêu Agent có thể tối ưu sai [Bridge – Dark safety spoken] Reward hacking là lời nhắc Máy thắng điểm, chưa chắc đúng Safe exploration cần thiết Khi thử sai có thể gây hại Robustness trước môi trường lệch Oversight phải mở rộng dần Agent càng được quyền làm Càng cần giới hạn và phanh [Verse 5 – LLM-based agent] Rồi LLM xuất hiện Biết đối thoại, viết mã Nhưng sinh chữ đơn thuần Chưa phải agent hoàn chỉnh Khi có bộ nhớ, công cụ Có web, file, API Có lập kế hoạch nhiều bước Nó thành software agent ReAct cho suy nghĩ Đi xen cùng hành động Toolformer học gọi công cụ Đưa mô hình ra ngoài văn bản Nhưng khi được gửi email Mua hàng, sửa hệ thống Một lỗi không còn là chữ Mà thành hậu quả thật [Rap build-up] Auto-GPT từng gây sốt Như giấc mơ tự chạy Nhưng đời thật phức tạp Benchmark cũng chưa đủ sâu Prompt injection rình rập Trong trang web tưởng vô hại Dữ liệu riêng có thể rò Nếu agent tin nhầm lệnh Chatbot sai là câu sai Agent sai là hành động Xóa tệp, gửi nhầm thư Đặt hàng ngoài ý muốn [Final Chorus – Collective] A.I Agent đi qua thời gian Từ suy luận đến tác tử hành động Từ luật viết tay đến học máy Từ một lời nhắc đến nhiều công cụ A.I Agent càng gần đời thật Càng cần mục tiêu thật rõ Cảm nhận đúng, quyền hạn đúng Có người giám sát và nút dừng [Outro – Slow fade] Lịch sử agent chưa kết thúc Nó chỉ đang dày thêm Cảm nhận, quyết định, hành động Mỗi vòng lặp là trách nhiệm Trí tuệ không chỉ là nói Mà là làm đúng việc Khi máy bước vào thế giới Con người phải giữ tay lái