LLM Düğümü
LLM Düğümü, dil modeli sağlayıcılarına bağlanır ve giriş promptlarına dayalı metin tamamlamaları üretir.
Desteklenen Sağlayıcılar
OpenAI
GPT-4o, o1
Anthropic
Claude Opus 4.7, Sonnet, Haiku
Yerel Modeller
Ollama, vLLM, TGI
Azure OpenAI
Azure üzerinde barındırılan OpenAI modelleri
AWS Bedrock
Titan, Claude ve 30+ model profili
Hugging Face
HF Hub üzerindeki tüm uyumlu modeller
Yapılandırma Parametreleri
| Parameter | Description | Default |
|---|---|---|
| model | Kullanılacak modeli seçin | - |
| api_key | Sağlayıcı API anahtarınız (şifreli saklanır) | - |
| temperature | 0.0 (belirleyici) ile 2.0 (yaratıcı) arası | 0.7 |
| max_tokens | Maksimum çıktı uzunluğu | 1024 |
| system_message | Rol/davranış talimatları için sistem promptu | - |
| streaming | Gerçek zamanlı token akışı | false |
Giriş ve Çıkışlar
Giriş
Text (prompt dizesi) veya Message (yapılandırılmış sohbet mesajı)
Çıkış
Text (üretilen tamamlama) veya Message (metadata ile yapılandırılmış yanıt)
LLM Düğümü, dinamik prompt oluşturma için Prompt Template düğümleriyle zincirlenebilir.