13 May 2024 |
Sergey Sherkunov | А что насчёт плоскости Земли? | 19:07:55 |
Sergey Sherkunov | Забазировала. | 19:07:46 |
NC | Русский понимают хорошо, хоть сваливаются в английский при первой возможности | 19:07:40 |
NC | она была очень тупой | 19:08:06 |
Nikita | А как технически оно разворачивается? Ollama типа? | 19:09:29 |
Nikita | Вот биткоинеры запускают, там точно меньше семи миллиардов. Узкая тема относительно, но как раз гуд. | 19:07:47 |
NC | не пробовал со второй | 19:08:02 |
Nikita | Даже 3b вполне ничего. | 19:06:37 |
NC | проблемы чисто в жопности апи андроида для приложений | 19:11:24 |
NC | мелкие модели должен, но будут медлено отвечать | 19:09:38 |
NC | ollama на десктопе. На телефоне нужно потанцевать, легче nixos поставить на телефон и уже там развернуть | 19:10:28 |
NC | Раньше llama2 мне заявляла, что Солнце вращается вокруг Земли, теперь маленькую модель llama3 в такой чуши не убедить | 19:07:06 |
Sergey Afanaѕуeν | На umbrel есть клиент и на startsos тоже. Норм работает, но греет девайс | 19:12:01 |
Sergey Sherkunov | In reply to NC Пока требуется десктоп, но прогресс в маленьких LLM самый заметный, llama3 8b уже влезает в телефоны Ну они же глуповатые. | 19:05:56 |
Nikita | In reply to NC Пока требуется десктоп, но прогресс в маленьких LLM самый заметный, llama3 8b уже влезает в телефоны Последний Pixel потянет? | 19:09:06 |
Nikita | Download image.jpeg | 19:14:24 |