Chạy một mô hình AI mà không cần kết nối internet nghe có vẻ tuyệt vời nhưng thường đòi hỏi phần cứng mạnh mẽ, đắt tiền. Tuy nhiên, DeepSeek-R1 đang thay đổi điều đó. Đây là một lựa chọn hữu ích cho các thiết bị cấu hình không quá cao và đáng ngạc nhiên là việc cài đặt nó cũng vô cùng dễ dàng. Bài viết này sẽ đi sâu vào cách bạn có thể vận hành chatbot AI này ngay trên laptop của mình, tận hưởng lợi ích của quyền riêng tư và khả năng truy cập mọi lúc, mọi nơi.
Chatbot AI Cục Bộ Nghĩa Là Gì?
Khi bạn sử dụng các chatbot AI trực tuyến như ChatGPT, các yêu cầu của bạn được xử lý trên máy chủ của OpenAI, nghĩa là thiết bị của bạn không cần gánh vác tải nặng. Bạn cần có kết nối internet liên tục để giao tiếp với các chatbot AI đó, và bạn không bao giờ kiểm soát hoàn toàn dữ liệu của mình. Các mô hình ngôn ngữ lớn (LLM) cung cấp năng lượng cho các chatbot AI như ChatGPT, Gemini, Claude, v.v., đòi hỏi tài nguyên cực lớn để chạy, vì chúng phụ thuộc vào các GPU có nhiều VRAM. Đó là lý do tại sao hầu hết các mô hình AI đều dựa trên đám mây.
Ngược lại, một chatbot AI cục bộ được cài đặt trực tiếp trên thiết bị của bạn, giống như bất kỳ phần mềm nào khác. Điều này có nghĩa là bạn không cần kết nối internet liên tục để sử dụng chatbot AI và có thể gửi yêu cầu bất cứ lúc nào. DeepSeek-R1 là một LLM cục bộ có thể cài đặt trên nhiều thiết bị. Mô hình 7B (bảy tỷ tham số) được chắt lọc của nó là một phiên bản nhỏ hơn, tối ưu hóa, hoạt động tốt trên phần cứng tầm trung, cho phép bạn tạo ra phản hồi AI mà không cần xử lý đám mây. Nói một cách đơn giản, điều này mang lại phản hồi nhanh hơn, quyền riêng tư tốt hơn và kiểm soát hoàn toàn dữ liệu của bạn.
Hướng Dẫn Chi Tiết Cài Đặt DeepSeek-R1 Trên Laptop
Việc chạy DeepSeek-R1 trên thiết bị của bạn khá đơn giản, nhưng hãy lưu ý rằng bạn đang sử dụng phiên bản ít mạnh mẽ hơn so với chatbot AI dựa trên web của DeepSeek. Chatbot AI của DeepSeek sử dụng khoảng 671 tỷ tham số, trong khi DeepSeek-R1 chỉ có khoảng 7 tỷ.
Bạn có thể tải xuống và sử dụng DeepSeek-R1 trên máy tính của mình bằng cách làm theo các bước sau:
Cài đặt DeepSeek-R1 trong cửa sổ Terminal
- Truy cập trang web của Ollama và tải xuống phiên bản mới nhất. Sau đó, cài đặt nó trên thiết bị của bạn giống như bất kỳ ứng dụng nào khác.
- Mở Terminal (hoặc Command Prompt trên Windows), và gõ lệnh sau:
ollama run deepseek-r1:7bLệnh này sẽ tải mô hình DeepSeek-R1 7B về máy tính của bạn, cho phép bạn nhập các truy vấn trong Terminal và nhận phản hồi. Nếu bạn gặp vấn đề về hiệu suất hoặc lỗi, hãy thử sử dụng mô hình ít đòi hỏi hơn bằng cách thay thế 7b bằng 1.5b trong lệnh trên.
Mặc dù mô hình hoạt động hoàn hảo trong Terminal, nhưng nếu bạn muốn một giao diện người dùng đầy đủ tính năng với định dạng văn bản phù hợp như ChatGPT, bạn cũng có thể sử dụng một ứng dụng như Chatbox.
Trải Nghiệm Thực Tế Với DeepSeek-R1 Chạy Cục Bộ: Ưu & Nhược Điểm
Như đã đề cập trước đó, các phản hồi sẽ không tốt (hoặc nhanh!) bằng các phản hồi từ chatbot AI trực tuyến của DeepSeek vì nó sử dụng một mô hình mạnh mẽ hơn và xử lý mọi thứ trên đám mây. Nhưng hãy xem các mô hình nhỏ hơn này hoạt động tốt như thế nào.
Giải Toán Học
Để kiểm tra hiệu suất của mô hình tham số 7B, tôi đã cung cấp cho nó một phương trình và yêu cầu nó giải tích phân. Tôi khá hài lòng với hiệu suất của nó, đặc biệt là vì các mô hình cơ bản thường gặp khó khăn với toán học.
Tôi phải thừa nhận đây không phải là một câu hỏi quá phức tạp, nhưng đó chính xác là lý do tại sao việc chạy một LLM cục bộ lại hữu ích đến vậy. Đó là việc có một công cụ sẵn sàng để xử lý các truy vấn đơn giản ngay lập tức thay vì phải phụ thuộc vào đám mây cho mọi thứ.
Hỗ Trợ Gỡ Lỗi Code
Một trong những ứng dụng tốt nhất tôi tìm thấy khi chạy DeepSeek-R1 cục bộ là khả năng hỗ trợ các dự án AI của tôi. Nó đặc biệt hữu ích vì tôi thường xuyên viết code trên các chuyến bay khi không có kết nối internet, và tôi rất thường xuyên dựa vào các LLM để gỡ lỗi. Để kiểm tra hiệu quả của nó, tôi đã cung cấp cho nó đoạn code sau với một lỗi ngớ ngẩn được cố ý thêm vào:
X = np.array([1, 2, 3, 4, 5]).reshape(-1, 1) y = np.array([2, 4, 6, 8, 10]) model = LinearRegression() model.fit(X, y) new_X = np.array([6, 7, 8]) prediction = model.predict(new_X)Nó đã xử lý đoạn code một cách dễ dàng, nhưng hãy nhớ rằng tôi đang chạy nó trên M1 MacBook Air với chỉ 8GB Unified Memory (Bộ nhớ hợp nhất được chia sẻ giữa CPU, GPU và các bộ phận khác của SoC).
DeepSeek-R1 sửa lỗi code Python
Khi có một IDE đang mở và nhiều tab trình duyệt đang chạy, hiệu suất của MacBook của tôi bị ảnh hưởng nghiêm trọng – tôi đã phải buộc thoát mọi thứ để nó phản hồi trở lại. Nếu bạn có 16GB RAM hoặc thậm chí là một GPU tầm trung, bạn có thể sẽ không gặp phải những vấn đề này. Tôi cũng đã thử nghiệm nó với các codebase lớn hơn, nhưng nó bị kẹt trong một vòng lặp suy nghĩ, vì vậy tôi sẽ không hoàn toàn dựa vào nó để thay thế các mô hình mạnh hơn. Tuy nhiên, nó vẫn hữu ích cho việc nhanh chóng tạo ra các đoạn code nhỏ.
Khả Năng Giải Các Bài Toán Logic & Câu Đố
Tôi cũng tò mò muốn xem mô hình này xử lý các câu đố và suy luận logic tốt đến mức nào, vì vậy tôi đã thử nghiệm nó với bài toán Monty Hall, và nó đã giải quyết một cách dễ dàng. Tuy nhiên, tôi thực sự bắt đầu đánh giá cao DeepSeek vì một lý do khác.
DeepSeek-R1 giải bài toán Monty Hall
Như hình ảnh minh họa, nó không chỉ đưa ra câu trả lời – nó còn hướng dẫn bạn toàn bộ quá trình tư duy, giải thích cách nó đi đến giải pháp. Điều này làm rõ rằng nó đang suy luận qua vấn đề chứ không chỉ đơn thuần là gợi lại một câu trả lời đã ghi nhớ từ dữ liệu đào tạo của nó.
Hạn Chế Trong Công Việc Nghiên Cứu (Kiến Thức Lỗi Thời)
Một trong những nhược điểm lớn nhất của việc chạy một LLM cục bộ là giới hạn kiến thức (knowledge cutoff) đã lỗi thời. Vì nó không thể truy cập internet, việc tìm kiếm thông tin đáng tin cậy về các sự kiện gần đây có thể là một thách thức. Hạn chế này đã rõ ràng trong quá trình thử nghiệm của tôi, nhưng nó còn tệ hơn khi tôi hỏi về một cái nhìn tổng quan ngắn gọn về chiếc iPhone đời đầu – nó đã tạo ra một phản hồi vừa không chính xác vừa vô tình hài hước.
Chiếc iPhone đầu tiên rõ ràng không ra mắt với iOS 5, cũng không ra đời sau “iPhone 3” không tồn tại. Nó đã sai gần như mọi thứ. Tôi đã thử nghiệm nó với một vài câu hỏi cơ bản khác, nhưng sự không chính xác vẫn tiếp diễn.
Sau khi DeepSeek gặp phải sự cố rò rỉ dữ liệu, tôi cảm thấy yên tâm khi biết rằng tôi có thể chạy mô hình này cục bộ mà không phải lo lắng về việc dữ liệu của mình bị lộ. Mặc dù nó không hoàn hảo, nhưng việc có một trợ lý AI ngoại tuyến là một lợi thế rất lớn. Chúng tôi mong muốn được thấy nhiều mô hình như thế này được tích hợp vào các thiết bị tiêu dùng như điện thoại thông minh, đặc biệt là sau những trải nghiệm gần đây với các công nghệ AI di động.
