首页 时政热点 科技头条 智能AI 安全攻防 数码硬件 开发者生态 汽车 游戏 社会热点 开源推荐 医疗健康 归档 标签 关于

25 行 Python 中的 Jev

摘要

Jev in 25 lines of Python Everyone and their mom is talking about Jev . Jev this, Jev that. Everyone on Twitter is all over Jev, how it's the next frontier of large language models and the AI paradigm...

Jev model the numpy choices for probabilities and True prompt
2026-09-23 1 阅读 约5分钟阅读 bashbjorn
分享:
字号:
25 行 Python 中的 Jev 每个人和他们的妈妈都在谈论 Jev。杰夫这个,杰夫那个。 Twitter 上的每个人都在关注 Jev,它是大型语言模型和人工智能范式的下一个前沿。我们真的不这么认为。这是用 25 行 Python 编写的 Jev。加载模型。从 llama_cpp 导入 numpy 导入 Llama 模型 = Llama 。 from_pretrained ( repo_id = "Qwen/Qwen3-0.6B-GGUF" , filename = "Qwen3-0.6B-Q8_0.gguf" , n_ctx = 512 , logits_all = True , verbose = False , ) 加载提示并定义您的选择。 labels = [ "A" , "B" , "C" ] Choices = [ "Legitimate" , "Spam" , "Phishing" ] email = "Payroll 在非公司登录页面上要求您提供密码。"选项=“\n”。 join ( f" { label } . { choice } " for label , choice in zip ( labels , Choices , strict = True ) ) Prompt = f"""<|im_start|>system 选择一个选项。<|im_end|> <|im_start|>用户电子邮件:{ email } \n\n { options } <|im_end|> <|im_start|>助理\n\n\n\n""" 模型。 eval ( tokens = model . tokenize ( text =prompt .encode() , add_bos = False ,special = True ) ) 将 logits 转化为概率。对数=模型。分数 [ 模型 . n_tokens - 1] token_ids = [ 模型 . tokenize(text = label.encode(), add_bos = False) [0] for label in labels] choice_logits = numpy. asarray ([ logits [ token_id ] for token_id in token_ids ] ) logprobs = choice_logits - numpy 。日志添加表达式。减少 ( choice_logits ) 概率 = numpy 。 exp ( logprobs ) 表示名称,分数为 ( ( "Logits" , choice_logits ) , ( "Log probabilities" , logprobs ) , ( "Probabilities" , probabilities ) , ) :values = numpy 。 round(scores.astype(float), 3)。 tolist() print(f"{name}:",dict(zip(choices,values,strict=True))) 那里。那是杰夫。但不,你不了解杰夫!是的,我们知道。但是是的。这是杰夫。它进行分类:它得到一个带有选择和输出概率的提示。速度很快。这是本地的。您不会将数据发送到其他地方。我们不希望将您的数据发送到其他地方。看看NobodyWho。 (注意:这是一篇戏仿博客文章,请参阅以下链接以获得更好/更完整的 Jev 开放实现: OpenJev 、 openjev-sglang 和 DiffusionGemma 上的 OpenJev 。)NobodyWho 所做的一切都是开源的,请在 Github 上留下一个星号以支持我们❤️ 由 Duarte O.Carmo Technical 于 2026 年 9 月 22 日发布
这篇文章对您有帮助吗?

订阅66必读

每日精选科技资讯,直达你的邮箱