Inferencia local, flujo de trabajo familiar.
Orca se conecta a su servidor local; no instala ni descarga modelos, agrupa inferencias ni administra procesos Ollama y LM Studio. Inicie el servidor y cargue su modelo antes de conectarse.
- Abra la configuración de Orca y seleccione Ollama, LM Studio o Local OpenAI-compatible.
- Confirme el punto final, actualice la lista de modelos o ingrese una ID de modelo manualmente.
- Empieza a chatear. No se requiere ninguna clave API si su servidor no la requiere.
Charla primero. Herramientas de agente por elección.
Los perfiles locales y editables comienzan en el modo Chat. Se debe pasar una sonda de llamada de función aislada de dos pasos para el proveedor, origen, punto final, modelo, configuración de razonamiento y versión de la sonda exactos. Luego debe habilitar explícitamente las herramientas del Agente para ese enlace.
La sonda no contiene archivos de proyecto, contexto del editor, instrucciones, habilidades, listas de tareas, historial de conversaciones ni esquema de herramienta Orca real. Una investigación aprobada confirma un intercambio de protocolo limitado: no hay una planificación confiable ni el uso de herramientas en un proyecto real.
Los modelos qwen2.5-coder:3b y llama-3.2-3b-instruct probados funcionaron para Chat pero no pasaron la estricta prueba del Agente de Orca. Es posible que se necesiten modelos de uso de herramientas más capaces.
El soporte de imagen sigue el modelo.
La capacidad de la imagen se rastrea como compatible, no compatible o desconocida para el modelo y punto final seleccionados. Es independiente de la compatibilidad entre el Agente y la herramienta: una prueba exitosa de la herramienta no establece soporte de visión y la entrada de imágenes no habilita las herramientas del Agente.
Los perfiles personalizados y locales con capacidad desconocida pueden habilitar explícitamente la entrada de imágenes no confirmadas en la configuración del proveedor para el punto final y el modelo exactos. Los perfiles no compatibles mantienen los controles de archivos adjuntos atenuados y no se puede hacer clic en ellos. Los metadatos de capacidad y las anulaciones explícitas no establecen la calidad de visión del modelo en vivo.
En el punto final canónico de DeepSeek, el Flash actual admite la visión; Pro y Chat/Reasoner heredado utilizan alternativas de solo texto. El soporte de imágenes es una promesa específica del modelo y no de todo el proveedor.
Sepa a dónde van sus solicitudes.
Orca utiliza un transporte de finalización de chat transmitido con solicitudes multimodales para perfiles con capacidad de imagen. Las indicaciones, las imágenes adjuntas, el contexto relevante del editor y el contenido del proyecto devuelto por las herramientas pueden enviarse al proveedor seleccionado. Un punto final local aún puede reenviar datos a otra parte; Orca no puede verificar qué hace el servidor después de recibir una solicitud.
Los proveedores compatibles personalizados pueden exponer metadatos de capacidad o modelo incompletos. Consulte la descripción general de seguridad y privacidad antes de configurar un punto final.