CEO của Anthropic, Dario Amodei, đã có một cuộc phỏng vấn với Thomas Nagel đang thu hút sự chú ý trong giới công nghệ. Có một phần cụ thể khiến một số nhà phát triển hoàn toàn quay lưng với Claude.
Mối lo ngại dường như xoay quanh cách tiếp cận về sự phù hợp với con người hoặc các chính sách nội dung của Claude, gây trở ngại cho những trường hợp sử dụng trong lĩnh vực kỹ thuật. Khi trợ lý AI trở nên quá thận trọng hoặc áp đặt quan điểm về thứ bạn đang cố xây dựng, nó không còn là một công cụ hữu ích nữa.
Điều này chạm đến mâu thuẫn cốt lõi trong quá trình phát triển AI: các rào chắn an toàn đối lập với quyền tự do của nhà phát triển. Một số kỹ sư đang chọn các mô hình ít hạn chế hơn, ngay cả khi phải đánh đổi một số khả năng khác. Cuộc tranh luận triết học về sự phù hợp của AI là có thật, nhưng sự bực bội trong thực tế khi trợ lý lập trình từ chối giúp đỡ những công việc kỹ thuật chính đáng cũng vậy.
Mối lo ngại dường như xoay quanh cách tiếp cận về sự phù hợp với con người hoặc các chính sách nội dung của Claude, gây trở ngại cho những trường hợp sử dụng trong lĩnh vực kỹ thuật. Khi trợ lý AI trở nên quá thận trọng hoặc áp đặt quan điểm về thứ bạn đang cố xây dựng, nó không còn là một công cụ hữu ích nữa.
Điều này chạm đến mâu thuẫn cốt lõi trong quá trình phát triển AI: các rào chắn an toàn đối lập với quyền tự do của nhà phát triển. Một số kỹ sư đang chọn các mô hình ít hạn chế hơn, ngay cả khi phải đánh đổi một số khả năng khác. Cuộc tranh luận triết học về sự phù hợp của AI là có thật, nhưng sự bực bội trong thực tế khi trợ lý lập trình từ chối giúp đỡ những công việc kỹ thuật chính đáng cũng vậy.
