Sherly AI: Inteligencia Artificial Gratuita y Privada

// Conexión en tiempo real con el motor WebSocket de Sherly AI
const socket = new WebSocket('wss://core.sherly.ai/v1/stream');

socket.onopen = () => {
    socket.send(JSON.stringify({
        model: "sherly-think",
        prompt: "¿Cómo optimizo esta función?",
        systemPrompt: "Eres Sherly AI, una asistente virtual segura...",
        config: { temperature: 0.7, maxTokens: 2048 }
    }));
};

socket.onmessage = (event) => {
    const token = JSON.parse(event.data);
    // Imprime la respuesta token a token (streaming en tiempo real)
    console.log(token.text);
};

import torch
from sherly_core import SherlyEngine, SherlyTokenizer

# Inicialización y carga del modelo local de Sherly AI
tokenizer = SherlyTokenizer.from_pretrained("./weights/sherly_v1")
model = SherlyEngine.from_pretrained("./weights/sherly_v1")
model.to("cuda")  # Inferencia en GPU para máxima velocidad

def generate_tokens(prompt, system_prompt):
    inputs = tokenizer.encode(system_prompt + prompt, return_tensors="pt").to("cuda")
    
    with torch.no_grad():
        output = model.generate(
            inputs,
            max_new_tokens=2048,
            temperature=0.7,
            top_p=0.9,
            repetition_penalty=1.1
        )
    return tokenizer.decode(output[0], skip_special_tokens=True)