Đến từ DiffusionPipeline

Nếu bạn đã quen thuộc với DiffusionPipeline và đang làm việc với ModularPipeline lần đầu tiên, một số điểm sẽ hoạt động khác đi. Chúng được liệt kê ở đây để bạn lưu ý trước khi đi qua quickstart.

• Việc tải là lười và linh hoạt. from_pretrained() xây dựng pipeline từ modular_model_index.json của kho mà không tải bất kỳ trọng số nào. load_components() sau đó tải chúng, và không nhất thiết phải tải tất cả cùng lúc: mặc định nó tải mọi thứ, nhưng bạn có thể chỉ tải các thành phần được chỉ định bằng names, hoặc bộ thành phần cần cho một workflow cụ thể bằng workflow. update_components() cho phép bạn tái sử dụng một thành phần bạn đã có, hoặc một thành phần khác với thông số kỹ thuật của kho. Xem Tải thành phần và Cập nhật thành phần.
• ModularPipeline đọc một index khác, modular_model_index.json, nhưng nó cũng hoạt động với một repository chỉ có model_index.json, miễn là model có một modular pipeline. Điều ngược lại không đúng: DiffusionPipeline và các class AutoPipeline không hoạt động với một repository chỉ có modular_model_index.json.
• Một lời gọi sẽ trả về trạng thái pipeline, trong đó cũng chứa các giá trị trung gian (prompt_embeds, latents, …). Hãy yêu cầu những gì bạn cần bằng đối số output, output="images" hoặc output=["images", "latents"], hoặc đọc một thuộc tính của trạng thái, như trong quickstart. Xem States.
• Classifier-free guidance được hỗ trợ trong thành phần guider, không phải là đối số gọi guidance_scale: pipe.update_components(guider=ClassifierFreeGuidance(guidance_scale=5.0)). Xem hướng dẫn về guiders.
• Không có callback_on_step_end; tuy nhiên, bạn có thể chèn một khối vào vòng lặp khử nhiễu để sử dụng các hàm callback hiện có của mình. Xem Pipeline dạng module trong hướng dẫn về callback.
• Pipeline là một đồ thị các khối mà bạn có thể thay đổi (xóa, chèn, thay thế) trước khi xây dựng nó bằng init_pipeline(); pipe.blocks trả về một bản sao, vì vậy hãy chỉnh sửa các khối trước. Xem Tạo các workflow mới.
• Việc offload được xử lý bởi một ComponentsManager, có thể phục vụ nhiều pipeline chia sẻ các thành phần. Xem hướng dẫn ComponentsManager.