Ollama+Flux模型会擦出怎样的火花

先闲聊几句。Flux模型开源之后，身边不少人又一头扎进了AI创作大军，个个摩拳擦掌，立志当新时代的“梵高”。但有个问题很现实——画着画着，灵感就断了。搁以前，大家多半会打开素材网站，看看别人的作品找找感觉。可现在是2024年，出了bug我们找AI帮忙，缺了灵感，自然也得找AI要。

那么，怎么才能不依赖大厂的AI，自己动手，用开源的大语言模型（LLM）来搞一个随时能给你灵感的AI小助手呢？

Ollama启动

这年头，要搞本地部署的开源大语言模型，没装上Ollama框架那可说不过去。安装步骤不算复杂，之前的文章也有详细说明，这里就不再展开了。

基于Ollama本地部署Llama3指南！

装好之后，打开PowerShell（Windows用户），敲一行命令：

ollama run gemma2:27b

至于其他模型能不能用，我没全试过，但至少gemma2对System Prompt的理解能力相当不错。下图就是跑起来的样子。

等模型拉取完毕，接下来是关键一步：用Ollama的Modelfile功能创建一个新模型。方法是新建一个文件夹，在里面放一个txt文件（比如modelfile.txt），把上图中的参数和System Prompt内容填进去。当然，还有更多参数可以调整，这里为了简洁就不一一展开了，感兴趣的可以翻翻之前的文章。

保存文件，注意文件名不要搞错，就叫modelfile.txt。

接下来，在modelfile所在的文件夹里打开PowerShell，输入以下命令：

ollama create SDArt -f modelfile.txt

这里要说明一下：SDArt是你新建模型的名字，可以自由替换；modelfile.txt是文件的名称和格式，也可以根据实际情况调整。

一旦命令行里弹出“Success”的提示——成了！而且这种创建方式并不会额外占用硬盘空间。

模型有了，接下来就可以找个第三方的应用来测试。我自己正在开发一款专为Ollama设计的应用，UI目前是有点糙，还没好好设计，但对话功能已经能用。

从对话表现来看，模型对提示词的理解力还是不错的。那么我们就用Flux模型加上这组提示词，直接生成一张海报看看效果：

正面提示词：text An underwater scene with dim lighting filtering through the surface, an ancient shipwreck partially buried in sand overgrown with seaweed and coral, a mysterious stone structure nearby with intricate carvings eroded by time, vibrant coral reefs teeming with colorful fish, starfish, sea urchins, and shells scattered on the seabed, a large grouper hiding in the shadow of the wreck, jellyfish drifting gracefully in the current, masterpiece, best quality, 4k, illustration style, atmospheric lighting, detailed textures.

另一组示例用于生成蝙蝠侠场景：