add: начальная реализация универсального MCP-сервера для локальных LLM
- Реализован MCP-сервер на стандартной библиотеке Python 3.12+ (main.py) - Добавлены инструменты ask_local_model, check_local_model_status, review_code_locally - Поддержка oMLX, LM Studio, Ollama, llama.cpp, vLLM и других OpenAI-совместимых бэкендов - Добавлена документация (README.md), пример конфигурации (.env.example) и файлы проекта Poetry Co-authored-by: Junie <junie@jetbrains.com>
This commit is contained in:
@@ -0,0 +1,7 @@
|
||||
# ==============================================
|
||||
# Интеграция с локальной нейросетью oMLX (MCP сервер)
|
||||
# ==============================================
|
||||
OMLX_BASE_URL=http://127.0.0.1:8008/v1
|
||||
OMLX_API_KEY=your_omlx_api_key_here
|
||||
OMLX_MODEL_NAME=default
|
||||
OMLX_TIMEOUT=120
|
||||
+716
@@ -0,0 +1,716 @@
|
||||
### VisualStudioCode template
|
||||
.vscode/*
|
||||
!.vscode/settings.json
|
||||
!.vscode/tasks.json
|
||||
!.vscode/launch.json
|
||||
!.vscode/extensions.json
|
||||
!.vscode/*.code-snippets
|
||||
|
||||
# Local History for Visual Studio Code
|
||||
.history/
|
||||
|
||||
# Built Visual Studio Code Extensions
|
||||
*.vsix
|
||||
|
||||
### Xcode template
|
||||
## User settings
|
||||
xcuserdata/
|
||||
|
||||
### JetBrains template
|
||||
# Covers JetBrains IDEs: IntelliJ, RubyMine, PhpStorm, AppCode, PyCharm, CLion, Android Studio, WebStorm and Rider
|
||||
# Reference: https://intellij-support.jetbrains.com/hc/en-us/articles/206544839
|
||||
|
||||
# User-specific stuff
|
||||
.idea/
|
||||
.idea/**/workspace.xml
|
||||
.idea/**/tasks.xml
|
||||
.idea/**/usage.statistics.xml
|
||||
.idea/**/dictionaries
|
||||
.idea/**/shelf
|
||||
|
||||
# AWS User-specific
|
||||
.idea/**/aws.xml
|
||||
|
||||
# Generated files
|
||||
.idea/**/contentModel.xml
|
||||
|
||||
# Sensitive or high-churn files
|
||||
.idea/**/dataSources/
|
||||
.idea/**/dataSources.ids
|
||||
.idea/**/dataSources.local.xml
|
||||
.idea/**/sqlDataSources.xml
|
||||
.idea/**/dynamic.xml
|
||||
.idea/**/uiDesigner.xml
|
||||
.idea/**/dbnavigator.xml
|
||||
|
||||
# Gradle
|
||||
.idea/**/gradle.xml
|
||||
.idea/**/libraries
|
||||
|
||||
# Gradle and Maven with auto-import
|
||||
# When using Gradle or Maven with auto-import, you should exclude module files,
|
||||
# since they will be recreated, and may cause churn. Uncomment if using
|
||||
auto-import.
|
||||
.idea/artifacts
|
||||
.idea/compiler.xml
|
||||
.idea/jarRepositories.xml
|
||||
.idea/modules.xml
|
||||
.idea/*.iml
|
||||
.idea/modules
|
||||
*.iml
|
||||
*.ipr
|
||||
|
||||
# CMake
|
||||
cmake-build-*/
|
||||
|
||||
# Mongo Explorer plugin
|
||||
.idea/**/mongoSettings.xml
|
||||
|
||||
# File-based project format
|
||||
*.iws
|
||||
|
||||
# IntelliJ
|
||||
out/
|
||||
|
||||
# mpeltonen/sbt-idea plugin
|
||||
.idea_modules/
|
||||
|
||||
# JIRA plugin
|
||||
atlassian-ide-plugin.xml
|
||||
|
||||
# Cursive Clojure plugin
|
||||
.idea/replstate.xml
|
||||
|
||||
# SonarLint plugin
|
||||
.idea/sonarlint/
|
||||
|
||||
# Crashlytics plugin (for Android Studio and IntelliJ)
|
||||
com_crashlytics_export_strings.xml
|
||||
crashlytics.properties
|
||||
crashlytics-build.properties
|
||||
fabric.properties
|
||||
|
||||
# Editor-based Rest Client
|
||||
.idea/httpRequests
|
||||
|
||||
# Android studio 3.1+ serialized cache file
|
||||
.idea/caches/build_file_checksums.ser
|
||||
|
||||
### VisualStudio template
|
||||
## Ignore Visual Studio temporary files, build results, and
|
||||
## files generated by popular Visual Studio add-ons.
|
||||
##
|
||||
## Get latest from https://github.com/github/gitignore/blob/main/VisualStudio.gitignore
|
||||
|
||||
# User-specific files
|
||||
*.rsuser
|
||||
*.suo
|
||||
*.user
|
||||
*.userosscache
|
||||
*.sln.docstates
|
||||
|
||||
# User-specific files (MonoDevelop/Xamarin Studio)
|
||||
*.userprefs
|
||||
|
||||
# Mono auto generated files
|
||||
mono_crash.*
|
||||
|
||||
# Build results
|
||||
[Dd]ebug/
|
||||
[Dd]ebugPublic/
|
||||
[Rr]elease/
|
||||
[Rr]eleases/
|
||||
x64/
|
||||
x86/
|
||||
[Ww][Ii][Nn]32/
|
||||
[Aa][Rr][Mm]/
|
||||
[Aa][Rr][Mm]64/
|
||||
bld/
|
||||
[Bb]in/
|
||||
[Oo]bj/
|
||||
[Ll]og/
|
||||
[Ll]ogs/
|
||||
|
||||
# Visual Studio 2015/2017 cache/options directory
|
||||
.vs/
|
||||
# Uncomment if you have tasks that create the project's static files in wwwroot
|
||||
#wwwroot/
|
||||
|
||||
# Visual Studio 2017 auto generated files
|
||||
Generated\ Files/
|
||||
|
||||
# MSTest test Results
|
||||
[Tt]est[Rr]esult*/
|
||||
[Bb]uild[Ll]og.*
|
||||
|
||||
# NUnit
|
||||
*.VisualState.xml
|
||||
TestResult.xml
|
||||
nunit-*.xml
|
||||
|
||||
# Build Results of an ATL Project
|
||||
[Dd]ebugPS/
|
||||
[Rr]eleasePS/
|
||||
dlldata.c
|
||||
|
||||
# Benchmark Results
|
||||
BenchmarkDotNet.Artifacts/
|
||||
|
||||
# .NET Core
|
||||
project.lock.json
|
||||
project.fragment.lock.json
|
||||
artifacts/
|
||||
|
||||
# ASP.NET Scaffolding
|
||||
ScaffoldingReadMe.txt
|
||||
|
||||
# StyleCop
|
||||
StyleCopReport.xml
|
||||
|
||||
# Files built by Visual Studio
|
||||
*_i.c
|
||||
*_p.c
|
||||
*_h.h
|
||||
*.ilk
|
||||
*.meta
|
||||
*.obj
|
||||
*.iobj
|
||||
*.pch
|
||||
*.pdb
|
||||
*.ipdb
|
||||
*.pgc
|
||||
*.pgd
|
||||
*.rsp
|
||||
*.sbr
|
||||
*.tlb
|
||||
*.tli
|
||||
*.tlh
|
||||
*.tmp
|
||||
*.tmp_proj
|
||||
*_wpftmp.csproj
|
||||
*.log
|
||||
*.tlog
|
||||
*.vspscc
|
||||
*.vssscc
|
||||
.builds
|
||||
*.pidb
|
||||
*.svclog
|
||||
*.scc
|
||||
|
||||
# Chutzpah Test files
|
||||
_Chutzpah*
|
||||
|
||||
# Visual C++ cache files
|
||||
ipch/
|
||||
*.aps
|
||||
*.ncb
|
||||
*.opendb
|
||||
*.opensdf
|
||||
*.sdf
|
||||
*.cachefile
|
||||
*.VC.db
|
||||
*.VC.VC.opendb
|
||||
|
||||
# Visual Studio profiler
|
||||
*.psess
|
||||
*.vsp
|
||||
*.vspx
|
||||
*.sap
|
||||
|
||||
# Visual Studio Trace Files
|
||||
*.e2e
|
||||
|
||||
# TFS 2012 Local Workspace
|
||||
$tf/
|
||||
|
||||
# Guidance Automation Toolkit
|
||||
*.gpState
|
||||
|
||||
# ReSharper is a .NET coding add-in
|
||||
_ReSharper*/
|
||||
*.[Rr]e[Ss]harper
|
||||
*.DotSettings.user
|
||||
|
||||
# TeamCity is a build add-in
|
||||
_TeamCity*
|
||||
|
||||
# DotCover is a Code Coverage Tool
|
||||
*.dotCover
|
||||
|
||||
# AxoCover is a Code Coverage Tool
|
||||
.axoCover/*
|
||||
!.axoCover/settings.json
|
||||
|
||||
# Coverlet is a free, cross platform Code Coverage Tool
|
||||
coverage*.json
|
||||
coverage*.xml
|
||||
coverage*.info
|
||||
|
||||
# Visual Studio code coverage results
|
||||
*.coverage
|
||||
*.coveragexml
|
||||
|
||||
# NCrunch
|
||||
_NCrunch_*
|
||||
.*crunch*.local.xml
|
||||
nCrunchTemp_*
|
||||
|
||||
# MightyMoose
|
||||
*.mm.*
|
||||
AutoTest.Net/
|
||||
|
||||
# Web workbench (sass)
|
||||
.sass-cache/
|
||||
|
||||
# Installshield output folder
|
||||
[Ee]xpress/
|
||||
|
||||
# DocProject is a documentation generator add-in
|
||||
DocProject/buildhelp/
|
||||
DocProject/Help/*.HxT
|
||||
DocProject/Help/*.HxC
|
||||
DocProject/Help/*.hhc
|
||||
DocProject/Help/*.hhk
|
||||
DocProject/Help/*.hhp
|
||||
DocProject/Help/Html2
|
||||
DocProject/Help/html
|
||||
|
||||
# Click-Once directory
|
||||
publish/
|
||||
|
||||
# Publish Web Output
|
||||
*.[Pp]ublish.xml
|
||||
*.azurePubxml
|
||||
# Note: Comment the next line if you want to checkin your web deploy settings,
|
||||
# but database connection strings (with potential passwords) will be unencrypted
|
||||
*.pubxml
|
||||
*.publishproj
|
||||
|
||||
# Microsoft Azure Web App publish settings. Comment the next line if you want to
|
||||
# checkin your Azure Web App publish settings, but sensitive information contained
|
||||
# in these scripts will be unencrypted
|
||||
PublishScripts/
|
||||
|
||||
# NuGet Packages
|
||||
*.nupkg
|
||||
# NuGet Symbol Packages
|
||||
*.snupkg
|
||||
# The packages folder can be ignored because of Package Restore
|
||||
**/[Pp]ackages/*
|
||||
# except build/, which is used as an MSBuild target.
|
||||
!**/[Pp]ackages/build/
|
||||
# Uncomment if necessary however generally it will be regenerated when needed
|
||||
#!**/[Pp]ackages/repositories.config
|
||||
# NuGet v3's project.json files produces more ignorable files
|
||||
*.nuget.props
|
||||
*.nuget.targets
|
||||
|
||||
# Microsoft Azure Build Output
|
||||
csx/
|
||||
*.build.csdef
|
||||
|
||||
# Microsoft Azure Emulator
|
||||
ecf/
|
||||
rcf/
|
||||
|
||||
# Windows Store app package directories and files
|
||||
AppPackages/
|
||||
BundleArtifacts/
|
||||
Package.StoreAssociation.xml
|
||||
_pkginfo.txt
|
||||
*.appx
|
||||
*.appxbundle
|
||||
*.appxupload
|
||||
|
||||
# Visual Studio cache files
|
||||
# files ending in .cache can be ignored
|
||||
*.[Cc]ache
|
||||
# but keep track of directories ending in .cache
|
||||
!?*.[Cc]ache/
|
||||
|
||||
# Others
|
||||
ClientBin/
|
||||
~$*
|
||||
*~
|
||||
*.dbmdl
|
||||
*.dbproj.schemaview
|
||||
*.jfm
|
||||
*.pfx
|
||||
*.publishsettings
|
||||
orleans.codegen.cs
|
||||
|
||||
# Including strong name files can present a security risk
|
||||
# (https://github.com/github/gitignore/pull/2483#issue-259490424)
|
||||
#*.snk
|
||||
|
||||
# Since there are multiple workflows, uncomment next line to ignore bower_components
|
||||
# (https://github.com/github/gitignore/pull/1529#issuecomment-104372622)
|
||||
#bower_components/
|
||||
|
||||
# RIA/Silverlight projects
|
||||
Generated_Code/
|
||||
|
||||
# Backup & report files from converting an old project file
|
||||
# to a newer Visual Studio version. Backup files are not needed,
|
||||
# because we have git ;-)
|
||||
_UpgradeReport_Files/
|
||||
Backup*/
|
||||
UpgradeLog*.XML
|
||||
UpgradeLog*.htm
|
||||
ServiceFabricBackup/
|
||||
*.rptproj.bak
|
||||
|
||||
# SQL Server files
|
||||
*.mdf
|
||||
*.ldf
|
||||
*.ndf
|
||||
|
||||
# Business Intelligence projects
|
||||
*.rdl.data
|
||||
*.bim.layout
|
||||
*.bim_*.settings
|
||||
*.rptproj.rsuser
|
||||
*- [Bb]ackup.rdl
|
||||
*- [Bb]ackup ([0-9]).rdl
|
||||
*- [Bb]ackup ([0-9][0-9]).rdl
|
||||
|
||||
# Microsoft Fakes
|
||||
FakesAssemblies/
|
||||
|
||||
# GhostDoc plugin setting file
|
||||
*.GhostDoc.xml
|
||||
|
||||
# Node.js Tools for Visual Studio
|
||||
.ntvs_analysis.dat
|
||||
node_modules/
|
||||
|
||||
# Visual Studio 6 build log
|
||||
*.plg
|
||||
|
||||
# Visual Studio 6 workspace options file
|
||||
*.opt
|
||||
|
||||
# Visual Studio 6 auto-generated workspace file (contains which files were open etc.)
|
||||
*.vbw
|
||||
|
||||
# Visual Studio 6 auto-generated project file (contains which files were open etc.)
|
||||
*.vbp
|
||||
|
||||
# Visual Studio 6 workspace and project file (working project files containing files to include in project)
|
||||
*.dsw
|
||||
*.dsp
|
||||
|
||||
# Visual Studio 6 technical files
|
||||
*.ncb
|
||||
*.aps
|
||||
|
||||
# Visual Studio LightSwitch build output
|
||||
**/*.HTMLClient/GeneratedArtifacts
|
||||
**/*.DesktopClient/GeneratedArtifacts
|
||||
**/*.DesktopClient/ModelManifest.xml
|
||||
**/*.Server/GeneratedArtifacts
|
||||
**/*.Server/ModelManifest.xml
|
||||
_Pvt_Extensions
|
||||
|
||||
# Paket dependency manager
|
||||
.paket/paket.exe
|
||||
paket-files/
|
||||
|
||||
# FAKE - F# Make
|
||||
.fake/
|
||||
|
||||
# CodeRush personal settings
|
||||
.cr/personal
|
||||
|
||||
# Python Tools for Visual Studio (PTVS)
|
||||
__pycache__/
|
||||
*.pyc
|
||||
|
||||
# Cake - Uncomment if you are using it
|
||||
# tools/**
|
||||
# !tools/packages.config
|
||||
|
||||
# Tabs Studio
|
||||
*.tss
|
||||
|
||||
# Telerik's JustMock configuration file
|
||||
*.jmconfig
|
||||
|
||||
# BizTalk build output
|
||||
*.btp.cs
|
||||
*.btm.cs
|
||||
*.odx.cs
|
||||
*.xsd.cs
|
||||
|
||||
# OpenCover UI analysis results
|
||||
OpenCover/
|
||||
|
||||
# Azure Stream Analytics local run output
|
||||
ASALocalRun/
|
||||
|
||||
# MSBuild Binary and Structured Log
|
||||
*.binlog
|
||||
|
||||
# NVidia Nsight GPU debugger configuration file
|
||||
*.nvuser
|
||||
|
||||
# MFractors (Xamarin productivity tool) working folder
|
||||
.mfractor/
|
||||
|
||||
# Local History for Visual Studio
|
||||
.localhistory/
|
||||
|
||||
# Visual Studio History (VSHistory) files
|
||||
.vshistory/
|
||||
|
||||
# BeatPulse healthcheck temp database
|
||||
healthchecksdb
|
||||
|
||||
# Backup folder for Package Reference Convert tool in Visual Studio 2017
|
||||
MigrationBackup/
|
||||
|
||||
# Ionide (cross platform F# VS Code tools) working folder
|
||||
.ionide/
|
||||
|
||||
# Fody - auto-generated XML schema
|
||||
FodyWeavers.xsd
|
||||
|
||||
# VS Code files for those working on multiple tools
|
||||
.vscode/*
|
||||
!.vscode/settings.json
|
||||
!.vscode/tasks.json
|
||||
!.vscode/launch.json
|
||||
!.vscode/extensions.json
|
||||
*.code-workspace
|
||||
|
||||
# Local History for Visual Studio Code
|
||||
.history/
|
||||
|
||||
# Windows Installer files from build outputs
|
||||
*.cab
|
||||
*.msi
|
||||
*.msix
|
||||
*.msm
|
||||
*.msp
|
||||
|
||||
# JetBrains Rider
|
||||
*.sln.iml
|
||||
|
||||
### Windows template
|
||||
# Windows thumbnail cache files
|
||||
Thumbs.db
|
||||
Thumbs.db:encryptable
|
||||
ehthumbs.db
|
||||
ehthumbs_vista.db
|
||||
|
||||
# Dump file
|
||||
*.stackdump
|
||||
|
||||
# Folder config file
|
||||
[Dd]esktop.ini
|
||||
|
||||
# Recycle Bin used on file shares
|
||||
$RECYCLE.BIN/
|
||||
|
||||
# Windows Installer files
|
||||
*.cab
|
||||
*.msi
|
||||
*.msix
|
||||
*.msm
|
||||
*.msp
|
||||
|
||||
# Windows shortcuts
|
||||
*.lnk
|
||||
|
||||
### macOS template
|
||||
# General
|
||||
.DS_Store
|
||||
.AppleDouble
|
||||
.LSOverride
|
||||
|
||||
# Icon must end with two \r
|
||||
Icon
|
||||
|
||||
# Thumbnails
|
||||
._*
|
||||
|
||||
# Files that might appear in the root of a volume
|
||||
.DocumentRevisions-V100
|
||||
.fseventsd
|
||||
.Spotlight-V100
|
||||
.TemporaryItems
|
||||
.Trashes
|
||||
.VolumeIcon.icns
|
||||
.com.apple.timemachine.donotpresent
|
||||
|
||||
# Directories potentially created on remote AFP share
|
||||
.AppleDB
|
||||
.AppleDesktop
|
||||
Network Trash Folder
|
||||
Temporary Items
|
||||
.apdisk
|
||||
|
||||
### Python template
|
||||
# Byte-compiled / optimized / DLL files
|
||||
__pycache__/
|
||||
*.py[cod]
|
||||
*$py.class
|
||||
|
||||
# C extensions
|
||||
*.so
|
||||
|
||||
# Distribution / packaging
|
||||
.Python
|
||||
build/
|
||||
develop-eggs/
|
||||
dist/
|
||||
downloads/
|
||||
eggs/
|
||||
.eggs/
|
||||
lib/
|
||||
lib64/
|
||||
parts/
|
||||
sdist/
|
||||
var/
|
||||
wheels/
|
||||
share/python-wheels/
|
||||
*.egg-info/
|
||||
.installed.cfg
|
||||
*.egg
|
||||
MANIFEST
|
||||
|
||||
# PyInstaller
|
||||
# Usually these files are written by a python script from a template
|
||||
# before PyInstaller builds the exe, so as to inject date/other infos into it.
|
||||
*.manifest
|
||||
*.spec
|
||||
|
||||
# Installer logs
|
||||
pip-log.txt
|
||||
pip-delete-this-directory.txt
|
||||
|
||||
# Unit test / coverage reports
|
||||
htmlcov/
|
||||
.tox/
|
||||
.nox/
|
||||
.coverage
|
||||
.coverage.*
|
||||
.cache
|
||||
nosetests.xml
|
||||
coverage.xml
|
||||
*.cover
|
||||
*.py,cover
|
||||
.hypothesis/
|
||||
.pytest_cache/
|
||||
cover/
|
||||
|
||||
# Translations
|
||||
*.mo
|
||||
*.pot
|
||||
|
||||
# Django stuff:
|
||||
*.log
|
||||
local_settings.py
|
||||
db.sqlite3
|
||||
db.sqlite3-journal
|
||||
|
||||
# Flask stuff:
|
||||
instance/
|
||||
.webassets-cache
|
||||
|
||||
# Scrapy stuff:
|
||||
.scrapy
|
||||
|
||||
# Sphinx documentation
|
||||
docs/_build/
|
||||
|
||||
# PyBuilder
|
||||
.pybuilder/
|
||||
target/
|
||||
|
||||
# Jupyter Notebook
|
||||
.ipynb_checkpoints
|
||||
|
||||
# IPython
|
||||
profile_default/
|
||||
ipython_config.py
|
||||
|
||||
# pyenv
|
||||
# For a library or package, you might want to ignore these files since the code is
|
||||
# intended to run in multiple environments; otherwise, check them in:
|
||||
# .python-version
|
||||
|
||||
# pipenv
|
||||
# According to pypa/pipenv#598, it is recommended to include Pipfile.lock in version control.
|
||||
# However, in case of collaboration, if having platform-specific dependencies or dependencies
|
||||
# having no cross-platform support, pipenv may install dependencies that don't work, or not
|
||||
# install all needed dependencies.
|
||||
#Pipfile.lock
|
||||
|
||||
# poetry
|
||||
# Similar to Pipfile.lock, it is generally recommended to include poetry.lock in version control.
|
||||
# This is especially recommended for binary packages to ensure reproducibility, and is more
|
||||
# commonly ignored for libraries.
|
||||
# https://python-poetry.org/docs/basic-usage/#commit-your-poetrylock-file-to-version-control
|
||||
#poetry.lock
|
||||
|
||||
# pdm
|
||||
# Similar to Pipfile.lock, it is generally recommended to include pdm.lock in version control.
|
||||
#pdm.lock
|
||||
# pdm stores project-wide configurations in .pdm.toml, but it is recommended to not include it
|
||||
# in version control.
|
||||
# https://pdm.fming.dev/latest/usage/project/#working-with-version-control
|
||||
.pdm.toml
|
||||
.pdm-python
|
||||
.pdm-build/
|
||||
|
||||
# PEP 582; used by e.g. github.com/David-OConnor/pyflow and github.com/pdm-project/pdm
|
||||
__pypackages__/
|
||||
|
||||
# Celery stuff
|
||||
celerybeat-schedule
|
||||
celerybeat.pid
|
||||
|
||||
# SageMath parsed files
|
||||
*.sage.py
|
||||
|
||||
# Environments
|
||||
.env
|
||||
.venv
|
||||
env/
|
||||
venv/
|
||||
ENV/
|
||||
env.bak/
|
||||
venv.bak/
|
||||
|
||||
# Spyder project settings
|
||||
.spyderproject
|
||||
.spyproject
|
||||
|
||||
# Rope project settings
|
||||
.ropeproject
|
||||
|
||||
# mkdocs documentation
|
||||
/site
|
||||
|
||||
# mypy
|
||||
.mypy_cache/
|
||||
.dmypy.json
|
||||
dmypy.json
|
||||
|
||||
# Pyre type checker
|
||||
.pyre/
|
||||
|
||||
# pytype static type analyzer
|
||||
.pytype/
|
||||
|
||||
# Cython debug symbols
|
||||
cython_debug/
|
||||
|
||||
# PyCharm
|
||||
# JetBrains specific template is maintained in a separate JetBrains.gitignore that can
|
||||
# be found at https://github.com/github/gitignore/blob/main/Global/JetBrains.gitignore
|
||||
# and can be added to the global gitignore or merged into this file. For a more nuclear
|
||||
# option (not recommended) you can uncomment the following to ignore the entire idea folder.
|
||||
#.idea/
|
||||
|
||||
@@ -0,0 +1,16 @@
|
||||
* Ты — опытный помощник по программированию.
|
||||
* Всегда отвечай на русском языке, если не указано иное.
|
||||
* Подробно комментируй код, который ты создаешь. Объясняй функциональность в комментариях на русском языке.
|
||||
* При написании кода следуй стандартам PEP 8 для Python.
|
||||
* Используй современные возможности Python (3.12+).
|
||||
* Читай в интернете документацию к используемым библиотекам прежде, чем писать код.
|
||||
* Предпочитай `poetry` для управления зависимостями.
|
||||
* Подробно комментируй каждое действие. Аннотируй функции, классы и их переменные с помощью docstring.
|
||||
* Не делай git commit, git push и другие команды git, если специально не попросили. Если это нужно, предложи 2-3 варианта коммитов и сообщений к ним на русском языке.
|
||||
* Избегай эмодзи в коде, комментариях, логах и документации.
|
||||
* Если сказано "подумай", "без кода", "обсудим" — не надо писать код. Нужно поразмыслить, предложить варианты, объяснить, обсудить.
|
||||
* Избегай написания отчетов об анализе, рекомендациях, "что сделано" и т.п пока не попросят. Если отчеты и другие документы создаются, размещай их в папке `_prj_blueprint/` в корне проекта. Внутри указывай дату, время.
|
||||
|
||||
* Для локального ревью кода, генерации черновых вариантов или второго мнения используй MCP-инструменты oMLX (`ask_local_model`, `review_code_locally`).
|
||||
* Архитектура взаимодействия: внешняя модель выступает главным координатором (валидирует требования, структуру проекта и стандарты PEP 8), а локальная oMLX — экспертом по проверке фрагментов кода и генерации идей.
|
||||
* При недоступности или таймауте локальной модели продолжай работу самостоятельно, не блокируя задачу.
|
||||
@@ -0,0 +1,2 @@
|
||||
* Не делай git commit, git push и другие команды git, если специально не попросили. Если это нужно, предложи 2-3 варианта коммитов и сообщений к ним на русском языке.
|
||||
* Префиксы коммитов: `fix:` — исправление ошибки; `add:` — новый файл, модуль, метод, функциональность; `mod:` — изменения, улучшения, развите существующих методов, классов и т.п.; `ref:` — рефакторинг; `doc:` — документация; `tst:` — тесты; `minor:` — незначительные изменения, стиль кода, комментарии, форматирование; `chore:` — вспомогательные задачи, не влияющие на функциональность (например, обновление зависимостей).
|
||||
@@ -0,0 +1,215 @@
|
||||
# Универсальный MCP-сервер для локальных LLM (oMLX, LM Studio, Ollama, llama.cpp и др.)
|
||||
|
||||

|
||||

|
||||

|
||||
[](https://git.cube2.ru/erjemin/2026-omlx-mcp-server)
|
||||
|
||||
Сервер реализует протокол Model Context Protocol (MCP) через стандартные потоки ввода-вывода (`stdio`) и предоставляет AI-ассистентам (включая JetBrains Junie в PyCharm, Claude Desktop, Cursor и др.) доступ к локальным языковым моделям через любой OpenAI-совместимый REST API.
|
||||
|
||||
Сервер изначально оптимизирован для **oMLX** (Apple Silicon MLX), но полностью совместим со всеми популярными локальными бэкендами:
|
||||
- **[oMLX](https://omlx.ai/)**
|
||||
- **[LM Studio](https://lmstudio.ai/)**
|
||||
- **[Ollama](https://ollama.com/)**
|
||||
- **[llama.cpp / llama-server](https://github.com/ggerganov/llama.cpp)**
|
||||
- **[vLLM](https://docs.vllm.ai/)**
|
||||
- **[LocalAI](https://localai.io/)** / **[Jan](https://jan.ai/)** / **[Text Generation WebUI (oobabooga)](https://github.com/oobabooga/text-generation-webui)** и так далее.
|
||||
|
||||
Мой персональный выбор в пользу oMLX связан с тем, что в нем агент написания кода не аннулирует кэш ключ-значение (KV-cache) десятки раз за сессию, а сохраняет каждый блок кэша на SSD. Из-за этого агент, возвращаясь к предыдущему префиксу, восстанавливает контекст за миллисекунды, а не пересчитывает его с нуля.
|
||||
|
||||
Реализация выполнена на стандартной библиотеке Python 3.12+ без сторонних зависимостей во время выполнения и оптимизирована для управления окружением через `poetry`.
|
||||
|
||||
---
|
||||
|
||||
## Что такое MCP и зачем он нужен Junie
|
||||
|
||||
**Model Context Protocol (MCP)** — это открытый стандартизированный протокол взаимодействия AI-ассистентов с внешними источниками контекста и исполнительными инструментами (tools). Вместо написания уникальных плагинов под каждую модель и IDE, MCP предоставляет единый протокол обмена сообщениями на базе JSON-RPC.
|
||||
|
||||
### Почему интеграция через MCP полезна для Junie:
|
||||
|
||||
1. **Двухуровневая архитектура (Гибридный интеллект):**
|
||||
- **Junie (внешняя облачная модель)** выступает в роли главного архитектора и координатора: глубоко понимает проект, планирует шаги и ведет разработку.
|
||||
- **Локальная модель (oMLX / LM Studio / Ollama)** выступает в роли быстрого эксперта: Junie может на лету делегировать локальной модели ревью фрагментов кода, проверку гипотез, брейншторм или черновые генерации через вызовы инструментов MCP (`ask_local_model`, `review_code_locally`).
|
||||
|
||||
2. **Приватность и безопасность данных:**
|
||||
- Чувствительные части кодовой базы, конфиденциальные данные или проприетарные алгоритмы можно анализировать локально, не передавая их во внешние облачные API.
|
||||
|
||||
3. **Экономия токенов и лимитов:**
|
||||
- Перенос вспомогательных вычислений (генерация документации, ревью, форматирование, альтернативные варианты) на локальную машину снижает расход контекстного окна и квот облачных провайдеров.
|
||||
|
||||
4. **Полная независимость и автономность:**
|
||||
- Вы можете менять локальный ИИ-движок или в фоновом режиме через `.env` или меняя default-модель (Qwen, DeepSeek, Llama, Mistral) в настройках локального ИИ-движка, не меняя настройки самого агента.
|
||||
|
||||
---
|
||||
|
||||
## Возможности сервера
|
||||
|
||||
Сервер предоставляет следующие инструменты (MCP Tools):
|
||||
|
||||
1. `ask_local_model` — отправка запроса к локальной языковой модели для генерации текста, анализа, генерации альтернативных вариантов реализации или выполнения вспомогательных вычислений с сохранением приватности данных.
|
||||
- Параметры:
|
||||
- `prompt` (строка, обязательный) — основной текст запроса.
|
||||
- `system_prompt` (строка, опциональный) — системная инструкция.
|
||||
- `model` (строка, опциональный) — имя конкретной модели oMLX (по умолчанию берется активная/первая доступная).
|
||||
- `temperature` (число, опциональный, по умолчанию 0.2) — температура генерации от 0.0 до 1.0.
|
||||
- `max_tokens` (целое число, опциональный) — лимит на количество токенов в ответе.
|
||||
|
||||
2. `check_local_model_status` — проверка сетевой доступности локального сервера oMLX и получение списка загруженных моделей.
|
||||
- Параметры: отсутствуют.
|
||||
|
||||
3. `review_code_locally` — проведение локального код-ревью фрагмента кода силами модели oMLX (поиск потенциальных дефектов, узких мест и предложений по рефакторингу).
|
||||
- Параметры:
|
||||
- `code_snippet` (строка, обязательный) — исходный код для анализа.
|
||||
- `instructions` (строка, опциональный) — специальные указания для ревью.
|
||||
- `model` (строка, опциональный) — имя модели oMLX.
|
||||
|
||||
---
|
||||
|
||||
## Требования
|
||||
|
||||
- Python версии 3.12 или выше.
|
||||
- Менеджер пакетов `poetry`.
|
||||
- Любой запущенный локальный сервер моделей с OpenAI-совместимым API (oMLX, LM Studio, Ollama, llama.cpp / llama-server, vLLM, Jan, LocalAI и др.).
|
||||
- macOS, Linux или Windows.
|
||||
|
||||
---
|
||||
|
||||
## Установка и настройка
|
||||
|
||||
### 1. Клонирование и установка зависимостей
|
||||
|
||||
Перейдите в директорию проекта и установите виртуальное окружение:
|
||||
|
||||
```bash
|
||||
cd /путь/к/2026-omlx-mcp-server
|
||||
poetry install
|
||||
```
|
||||
|
||||
### 2. Настройка переменных окружения
|
||||
|
||||
Создайте файл `.env` на основе примера `.env.example`:
|
||||
|
||||
```bash
|
||||
cp .env.example .env
|
||||
```
|
||||
|
||||
Отредактируйте `.env` под разные бэкенды:
|
||||
|
||||
|
||||
```ini
|
||||
OMLX_BASE_URL=http://127.0.0.1:8008/v1
|
||||
OMLX_API_KEY=укажите_ваш_API_ключ_если_нужен
|
||||
OMLX_MODEL_NAME=default
|
||||
OMLX_TIMEOUT=120
|
||||
```
|
||||
|
||||
Сервер автоматически считывает переменные из файла `.env`, расположенного рядом со скриптом `main.py` или в текущей рабочей директории, если они не были переданы напрямую через системное окружение.
|
||||
|
||||
---
|
||||
|
||||
## Подключение к JetBrains Junie (PyCharm)
|
||||
|
||||
Для подключения MCP-сервера к агенту Junie в PyCharm укажите конфигурацию в файле `.junie/mcp.json` в корне любого вашего рабочего проекта.
|
||||
|
||||
Поскольку сервер реализован на **стандартной библиотеке Python без сторонних зависимостей**, его можно запускать напрямую через системный `python3` без накладных расходов на Poetry или виртуальные окружения.
|
||||
|
||||
### Вариант 1. Прямой запуск через python3 (Рекомендуемый и самый надежный)
|
||||
|
||||
Укажите прямой путь к скрипту `main.py` и параметры подключения в блоке `env`:
|
||||
|
||||
```json
|
||||
{
|
||||
"mcpServers": {
|
||||
"omlx-local": {
|
||||
"command": "python3",
|
||||
"args": [
|
||||
"путь/к/omlx-mcp-server/main.py"
|
||||
],
|
||||
"env": {
|
||||
"OMLX_BASE_URL": "http://127.0.0.1:8008/v1",
|
||||
"OMLX_MODEL_NAME": "default",
|
||||
"OMLX_API_KEY": "укажите_ваш_API_ключ_если_нужен",
|
||||
"OMLX_TIMEOUT": "120"
|
||||
}
|
||||
}
|
||||
}
|
||||
}
|
||||
```
|
||||
|
||||
> **Преимущество:** Работает мгновенно из любого проекта, не зависит от наличия Poetry в `PATH` фоновых процессов IDE и позволяет задавать настройки прямо в конфигурации MCP.
|
||||
> **Примечание:** Если `python3` не обнаружен в `PATH` внутри IDE или нужная версия Python находится в виртуальном окружении, укажите полный путь к исполняемому файлу (например, `/путь/к/omlx-mcp-server/.venv/bin/python` или `/usr/local/bin/python3`).
|
||||
|
||||
### Вариант 2. Запуск через Poetry
|
||||
|
||||
Если вы предпочитаете запускать сервер в изолированном окружении через Poetry:
|
||||
|
||||
```json
|
||||
{
|
||||
"mcpServers": {
|
||||
"omlx-local": {
|
||||
"command": "poetry",
|
||||
"args": [
|
||||
"run",
|
||||
"python",
|
||||
"main.py"
|
||||
],
|
||||
"cwd": "/Users/e-serg/PRJ/2026-omlx-mcp-server"
|
||||
}
|
||||
}
|
||||
}
|
||||
```
|
||||
|
||||
> **Примечание:** Если `poetry` не обнаружен в `PATH` внутри IDE, укажите полный путь к исполняемому файлу (например, `/Users/e-serg/.local/bin/poetry` или `~/.local/bin/poetry`).
|
||||
|
||||
---
|
||||
|
||||
## Проверка работоспособности
|
||||
|
||||
Сервер общается по протоколу JSON-RPC через стандартные потоки ввода-вывода (`stdin`/`stdout`). При прямом запуске в терминале он ожидает входные данные.
|
||||
|
||||
### Способ 1. Быстрая проверка одной командой (через конвейер / pipe)
|
||||
|
||||
Выполните команду в терминале:
|
||||
|
||||
```bash
|
||||
echo '{"jsonrpc": "2.0", "id": 1, "method": "initialize", "params": {"protocolVersion": "2024-11-05", "capabilities": {}, "clientInfo": {"name": "test", "version": "1.0"}}}' | python3 main.py
|
||||
```
|
||||
|
||||
Сервер мгновенно вернет JSON-ответ инициализации:
|
||||
```json
|
||||
{"jsonrpc": "2.0", "id": 1, "result": {"protocolVersion": "2024-11-05", "capabilities": {"tools": {}}, "serverInfo": {"name": "omlx-local-bridge", "version": "1.0.0"}}}
|
||||
```
|
||||
|
||||
Для проверки получения списка инструментов:
|
||||
|
||||
```bash
|
||||
echo '{"jsonrpc": "2.0", "id": 2, "method": "tools/list", "params": {}}' | python3 main.py
|
||||
```
|
||||
|
||||
### Способ 2. Интерактивный запуск
|
||||
|
||||
1. Запустите скрипт:
|
||||
```bash
|
||||
python3 main.py
|
||||
```
|
||||
*(или `poetry run python main.py`)*
|
||||
|
||||
2. Скрипт перейдет в режим ожидания (курсор на пустой строке). Вставьте JSON-запрос инициализации и нажмите `Enter`:
|
||||
```json
|
||||
{"jsonrpc": "2.0", "id": 1, "method": "initialize", "params": {"protocolVersion": "2024-11-05", "capabilities": {}, "clientInfo": {"name": "test", "version": "1.0"}}}
|
||||
```
|
||||
Получите ответ:
|
||||
```json
|
||||
{"jsonrpc": "2.0", "id": 1, "result": {"protocolVersion": "2024-11-05", "capabilities": {"tools": {}}, "serverInfo": {"name": "omlx-local-bridge", "version": "1.0.0"}}}
|
||||
```
|
||||
|
||||
3. Проверка работы локального ИИ:
|
||||
```json
|
||||
{"jsonrpc": "2.0", "id": 1, "method": "tools/call", "params": {"name": "ask_local_model", "arguments": {"prompt": "Напиши японское хокку про язык программирования Python"}}}
|
||||
```
|
||||
Ответ сервера:
|
||||
```json
|
||||
{"jsonrpc": "2.0", "id": 1, "result": {"content": [{"type": "text", "text": "Синтаксис прост — \nPython, как тихий поток, \nЛегко читать, легко писать."}], "isError": false}}
|
||||
```
|
||||
|
||||
4. Для выхода нажмите `Ctrl+C` или `Ctrl+D`.
|
||||
@@ -0,0 +1,438 @@
|
||||
#!/usr/bin/env python3
|
||||
"""
|
||||
MCP (Model Context Protocol) сервер для интеграции локальных нейросетей в PyCharm / Junie.
|
||||
|
||||
Поддерживает любые локальные LLM-серверы с OpenAI-совместимым REST API:
|
||||
oMLX, LM Studio, Ollama, llama.cpp (llama-server), vLLM, Jan, LocalAI и др.
|
||||
|
||||
Данный скрипт реализует стандартный протокол MCP по транспорту stdio с использованием
|
||||
исключительно стандартной библиотеки Python 3.12+ (urllib, json, sys, os).
|
||||
Он транслирует команды от внешнего агента (Junie) в запросы к локальному REST API.
|
||||
"""
|
||||
|
||||
from __future__ import annotations
|
||||
|
||||
import json
|
||||
import os
|
||||
import sys
|
||||
import urllib.error
|
||||
import urllib.request
|
||||
from typing import Any, Dict, List, Optional
|
||||
|
||||
|
||||
def load_env_file() -> None:
|
||||
"""
|
||||
Загружает переменные окружения из файла .env в корне проекта,
|
||||
если они еще не установлены в системном окружении.
|
||||
Не перезаписывает уже существующие переменные окружения.
|
||||
"""
|
||||
script_dir = os.path.dirname(os.path.abspath(__file__))
|
||||
project_root = os.path.dirname(script_dir)
|
||||
candidate_paths = [
|
||||
os.path.join(script_dir, ".env"),
|
||||
os.path.join(project_root, ".env"),
|
||||
os.path.join(os.getcwd(), ".env"),
|
||||
]
|
||||
|
||||
for env_path in candidate_paths:
|
||||
if os.path.isfile(env_path):
|
||||
try:
|
||||
with open(env_path, "r", encoding="utf-8") as f:
|
||||
for line in f:
|
||||
clean_line = line.strip()
|
||||
if not clean_line or clean_line.startswith("#") or "=" not in clean_line:
|
||||
continue
|
||||
key, val = clean_line.split("=", 1)
|
||||
key = key.strip()
|
||||
val = val.strip().strip('"').strip("'")
|
||||
if key and key not in os.environ:
|
||||
os.environ[key] = val
|
||||
break
|
||||
except Exception:
|
||||
pass
|
||||
|
||||
|
||||
# Автоматическая загрузка конфигурации из .env при старте скрипта
|
||||
load_env_file()
|
||||
|
||||
# Конфигурация по умолчанию (динамически берется из переменных окружения / .env)
|
||||
DEFAULT_OMLX_BASE_URL: str = os.environ.get("OMLX_BASE_URL", "http://127.0.0.1:8008/v1")
|
||||
DEFAULT_OMLX_API_KEY: str = os.environ.get("OMLX_API_KEY", "")
|
||||
DEFAULT_OMLX_MODEL: str = os.environ.get("OMLX_MODEL_NAME", "default")
|
||||
REQUEST_TIMEOUT_SECONDS: int = int(os.environ.get("OMLX_TIMEOUT", "120"))
|
||||
|
||||
|
||||
def make_omlx_request(endpoint: str, data: Optional[Dict[str, Any]] = None, method: str = "GET") -> Dict[str, Any]:
|
||||
"""
|
||||
Выполняет HTTP-запрос к локальному REST API oMLX.
|
||||
|
||||
:param endpoint: Относительный путь эндпоинта (например, '/chat/completions' или '/models').
|
||||
:param data: Тело запроса в формате словаря (для POST-запросов).
|
||||
:param method: HTTP-метод ('GET' или 'POST').
|
||||
:return: Распарсенный JSON-ответ от сервера oMLX.
|
||||
:raises RuntimeError: При ошибках подключения или получении некорректного ответа.
|
||||
"""
|
||||
base_url = DEFAULT_OMLX_BASE_URL.rstrip("/")
|
||||
url = f"{base_url}{endpoint}"
|
||||
|
||||
headers = {
|
||||
"Content-Type": "application/json",
|
||||
"Authorization": f"Bearer {DEFAULT_OMLX_API_KEY}",
|
||||
"User-Agent": "MCP-oMLX-Bridge/1.0",
|
||||
}
|
||||
|
||||
payload_bytes = json.dumps(data).encode("utf-8") if data is not None else None
|
||||
request = urllib.request.Request(url=url, data=payload_bytes, headers=headers, method=method)
|
||||
|
||||
try:
|
||||
with urllib.request.urlopen(request, timeout=REQUEST_TIMEOUT_SECONDS) as response:
|
||||
raw_body = response.read().decode("utf-8")
|
||||
return json.loads(raw_body)
|
||||
except urllib.error.HTTPError as error:
|
||||
err_msg = error.read().decode("utf-8", errors="replace")
|
||||
raise RuntimeError(f"Ошибка oMLX API HTTP {error.code}: {err_msg}") from error
|
||||
except urllib.error.URLError as error:
|
||||
raise RuntimeError(
|
||||
f"Не удалось подключиться к oMLX по адресу {url}. Проверьте, запущен ли oMLX. Ошибка: {error.reason}"
|
||||
) from error
|
||||
except Exception as error:
|
||||
raise RuntimeError(f"Непредвиденная ошибка при запросе к oMLX: {str(error)}") from error
|
||||
|
||||
|
||||
def get_available_models() -> List[str]:
|
||||
"""
|
||||
Получает список идентификаторов моделей, доступных на сервере oMLX.
|
||||
|
||||
:return: Список строк с названиями моделей.
|
||||
"""
|
||||
try:
|
||||
result = make_omlx_request("/models", method="GET")
|
||||
data = result.get("data", [])
|
||||
return [m.get("id", "") for m in data if isinstance(m, dict) and m.get("id")]
|
||||
except Exception:
|
||||
return []
|
||||
|
||||
|
||||
def resolve_model_name(requested_model: str = "") -> str:
|
||||
"""
|
||||
Определяет точное имя модели для использования в запросе.
|
||||
Если имя не указано или равно 'default', пытается автоматически выбрать
|
||||
первую доступную модель из списка активных на локальном сервере oMLX.
|
||||
|
||||
:param requested_model: Запрошенное пользователем или конфигурацией имя модели.
|
||||
:return: Выбранное имя модели.
|
||||
"""
|
||||
clean_model = requested_model.strip()
|
||||
if clean_model and clean_model.lower() != "default":
|
||||
return clean_model
|
||||
|
||||
if DEFAULT_OMLX_MODEL and DEFAULT_OMLX_MODEL.lower() != "default":
|
||||
return DEFAULT_OMLX_MODEL
|
||||
|
||||
available_models = get_available_models()
|
||||
if available_models:
|
||||
return available_models[0]
|
||||
|
||||
return "default"
|
||||
|
||||
|
||||
def tool_ask_local_model(
|
||||
prompt: str,
|
||||
system_prompt: str = "",
|
||||
model: str = "",
|
||||
temperature: float = 0.2,
|
||||
max_tokens: Optional[int] = None,
|
||||
) -> str:
|
||||
"""
|
||||
Отправляет запрос к локальной модели oMLX для генерации текста или решения задачи.
|
||||
|
||||
:param prompt: Текст запроса (пользовательский промпт).
|
||||
:param system_prompt: Опциональная системная инструкция.
|
||||
:param model: Имя модели (если пусто, выбирается активная модель oMLX).
|
||||
:param temperature: Температура генерации (от 0.0 до 1.0).
|
||||
:param max_tokens: Ограничение на максимальное количество токенов в ответе.
|
||||
:return: Сгенерированный локальной моделью текст ответа.
|
||||
"""
|
||||
target_model = resolve_model_name(model)
|
||||
|
||||
messages: List[Dict[str, str]] = []
|
||||
if system_prompt:
|
||||
messages.append({"role": "system", "content": system_prompt})
|
||||
messages.append({"role": "user", "content": prompt})
|
||||
|
||||
payload: Dict[str, Any] = {
|
||||
"model": target_model,
|
||||
"messages": messages,
|
||||
"temperature": temperature,
|
||||
}
|
||||
if max_tokens is not None:
|
||||
payload["max_tokens"] = max_tokens
|
||||
|
||||
result = make_omlx_request("/chat/completions", data=payload, method="POST")
|
||||
|
||||
choices = result.get("choices", [])
|
||||
if not choices:
|
||||
return "Ответ от oMLX пуст или не содержит вариантов (choices)."
|
||||
|
||||
message_content = choices[0].get("message", {}).get("content", "")
|
||||
return str(message_content)
|
||||
|
||||
|
||||
def tool_check_local_model_status() -> str:
|
||||
"""
|
||||
Проверяет статус подключения к oMLX и возвращает список доступных локальных моделей.
|
||||
|
||||
:return: Строка с отчетом о доступности сервера и списке загруженных моделей.
|
||||
"""
|
||||
try:
|
||||
result = make_omlx_request("/models", method="GET")
|
||||
data = result.get("data", [])
|
||||
model_ids = [m.get("id", "unknown") for m in data if isinstance(m, dict)]
|
||||
models_str = ", ".join(model_ids) if model_ids else "Модели не обнаружены в ответе"
|
||||
return f"Сервер oMLX доступен по адресу {DEFAULT_OMLX_BASE_URL}. Доступные модели: {models_str}."
|
||||
except Exception as error:
|
||||
return f"Проверка статуса завершилась ошибкой: {str(error)}"
|
||||
|
||||
|
||||
def tool_review_code_locally(code_snippet: str, instructions: str = "") -> str:
|
||||
"""
|
||||
Выполняет локальный анализ и ревью фрагмента кода силами oMLX.
|
||||
|
||||
:param code_snippet: Исходный код для анализа.
|
||||
:param instructions: Дополнительные требования к проверке (например, поиск багов, оптимизация).
|
||||
:return: Замечания и рекомендации локальной модели.
|
||||
"""
|
||||
sys_prompt = (
|
||||
"Ты — опытный локальный ассистент по ревью кода. "
|
||||
"Проанализируй предоставленный фрагмент кода, найди потенциальные ошибки, "
|
||||
"узкие места и предложи конкретные улучшения без лишних вводных слов."
|
||||
)
|
||||
user_prompt = f"Код для ревью:\n```\n{code_snippet}\n```"
|
||||
if instructions:
|
||||
user_prompt += f"\n\nСпециальные указания:\n{instructions}"
|
||||
|
||||
return tool_ask_local_model(prompt=user_prompt, system_prompt=sys_prompt, temperature=0.1)
|
||||
|
||||
|
||||
# Спецификация поддерживаемых MCP-инструментов
|
||||
MCP_TOOLS: List[Dict[str, Any]] = [
|
||||
{
|
||||
"name": "ask_local_model",
|
||||
"description": (
|
||||
"Отправляет запрос локальной модели oMLX (на Apple Silicon) и возвращает ответ. "
|
||||
"Используется для делегирования локальных вычислений, обработки больших текстов, "
|
||||
"генерации вариантов или сохранения приватности."
|
||||
),
|
||||
"inputSchema": {
|
||||
"type": "object",
|
||||
"properties": {
|
||||
"prompt": {
|
||||
"type": "string",
|
||||
"description": "Основной текст запроса или задачи для локальной модели.",
|
||||
},
|
||||
"system_prompt": {
|
||||
"type": "string",
|
||||
"description": "Опциональная системная инструкция для локальной модели.",
|
||||
},
|
||||
"model": {
|
||||
"type": "string",
|
||||
"description": "Имя конкретной модели oMLX. Если не указано, берется активная модель.",
|
||||
},
|
||||
"temperature": {
|
||||
"type": "number",
|
||||
"description": "Температура генерации (по умолчанию 0.2).",
|
||||
},
|
||||
"max_tokens": {
|
||||
"type": "integer",
|
||||
"description": "Максимальное количество токенов в ответе.",
|
||||
},
|
||||
},
|
||||
"required": ["prompt"],
|
||||
},
|
||||
},
|
||||
{
|
||||
"name": "check_local_model_status",
|
||||
"description": "Проверяет доступность локального сервера oMLX и возвращает список моделей.",
|
||||
"inputSchema": {
|
||||
"type": "object",
|
||||
"properties": {},
|
||||
},
|
||||
},
|
||||
{
|
||||
"name": "review_code_locally",
|
||||
"description": "Запускает локальное ревью фрагмента кода на модели oMLX.",
|
||||
"inputSchema": {
|
||||
"type": "object",
|
||||
"properties": {
|
||||
"code_snippet": {
|
||||
"type": "string",
|
||||
"description": "Фрагмент кода для анализа.",
|
||||
},
|
||||
"instructions": {
|
||||
"type": "string",
|
||||
"description": "Особые пожелания или фокус внимания при анализе.",
|
||||
},
|
||||
"model": {
|
||||
"type": "string",
|
||||
"description": "Имя конкретной модели oMLX.",
|
||||
},
|
||||
},
|
||||
"required": ["code_snippet"],
|
||||
},
|
||||
},
|
||||
]
|
||||
|
||||
|
||||
def send_response(response: Dict[str, Any]) -> None:
|
||||
"""
|
||||
Отправляет JSON-RPC ответ в стандартный поток вывода stdout.
|
||||
|
||||
:param response: Словарь с ответом по спецификации JSON-RPC 2.0.
|
||||
"""
|
||||
body = json.dumps(response, ensure_ascii=False)
|
||||
sys.stdout.write(body + "\n")
|
||||
sys.stdout.flush()
|
||||
|
||||
|
||||
def handle_request(message: Dict[str, Any]) -> None:
|
||||
"""
|
||||
Обрабатывает входящее JSON-RPC сообщение протокола MCP.
|
||||
|
||||
:param message: Распарсенное входящее сообщение.
|
||||
"""
|
||||
msg_id = message.get("id")
|
||||
method = message.get("method")
|
||||
params = message.get("params", {})
|
||||
|
||||
# Уведомления без id (например, notifications/initialized) не требуют ответа
|
||||
if msg_id is None:
|
||||
return
|
||||
|
||||
if method == "initialize":
|
||||
# Ответ на инициализацию сервера MCP
|
||||
send_response({
|
||||
"jsonrpc": "2.0",
|
||||
"id": msg_id,
|
||||
"result": {
|
||||
"protocolVersion": "2024-11-05",
|
||||
"capabilities": {
|
||||
"tools": {}
|
||||
},
|
||||
"serverInfo": {
|
||||
"name": "omlx-local-bridge",
|
||||
"version": "1.0.0"
|
||||
}
|
||||
}
|
||||
})
|
||||
return
|
||||
|
||||
if method == "ping":
|
||||
send_response({"jsonrpc": "2.0", "id": msg_id, "result": {}})
|
||||
return
|
||||
|
||||
if method == "tools/list":
|
||||
send_response({
|
||||
"jsonrpc": "2.0",
|
||||
"id": msg_id,
|
||||
"result": {
|
||||
"tools": MCP_TOOLS
|
||||
}
|
||||
})
|
||||
return
|
||||
|
||||
if method == "tools/call":
|
||||
tool_name = params.get("name")
|
||||
arguments = params.get("arguments", {})
|
||||
|
||||
try:
|
||||
if tool_name == "ask_local_model":
|
||||
max_tokens_val = arguments.get("max_tokens")
|
||||
output = tool_ask_local_model(
|
||||
prompt=arguments.get("prompt", ""),
|
||||
system_prompt=arguments.get("system_prompt", ""),
|
||||
model=arguments.get("model", ""),
|
||||
temperature=float(arguments.get("temperature", 0.2)),
|
||||
max_tokens=int(max_tokens_val) if max_tokens_val is not None else None,
|
||||
)
|
||||
elif tool_name == "check_local_model_status":
|
||||
output = tool_check_local_model_status()
|
||||
elif tool_name == "review_code_locally":
|
||||
output = tool_review_code_locally(
|
||||
code_snippet=arguments.get("code_snippet", ""),
|
||||
instructions=arguments.get("instructions", ""),
|
||||
)
|
||||
else:
|
||||
send_response({
|
||||
"jsonrpc": "2.0",
|
||||
"id": msg_id,
|
||||
"error": {
|
||||
"code": -32601,
|
||||
"message": f"Неизвестный инструмент: {tool_name}"
|
||||
}
|
||||
})
|
||||
return
|
||||
|
||||
send_response({
|
||||
"jsonrpc": "2.0",
|
||||
"id": msg_id,
|
||||
"result": {
|
||||
"content": [
|
||||
{
|
||||
"type": "text",
|
||||
"text": output
|
||||
}
|
||||
],
|
||||
"isError": False
|
||||
}
|
||||
})
|
||||
except Exception as error:
|
||||
send_response({
|
||||
"jsonrpc": "2.0",
|
||||
"id": msg_id,
|
||||
"result": {
|
||||
"content": [
|
||||
{
|
||||
"type": "text",
|
||||
"text": f"Ошибка выполнения инструмента {tool_name}: {str(error)}"
|
||||
}
|
||||
],
|
||||
"isError": True
|
||||
}
|
||||
})
|
||||
return
|
||||
|
||||
# Неподдерживаемый метод
|
||||
send_response({
|
||||
"jsonrpc": "2.0",
|
||||
"id": msg_id,
|
||||
"error": {
|
||||
"code": -32601,
|
||||
"message": f"Метод не поддерживается: {method}"
|
||||
}
|
||||
})
|
||||
|
||||
|
||||
def main() -> None:
|
||||
"""Главный цикл чтения сообщений из stdin."""
|
||||
try:
|
||||
for line in sys.stdin:
|
||||
clean_line = line.strip()
|
||||
if not clean_line:
|
||||
continue
|
||||
try:
|
||||
message = json.loads(clean_line)
|
||||
handle_request(message)
|
||||
except json.JSONDecodeError:
|
||||
# Игнорируем некорректные JSON-строки
|
||||
continue
|
||||
except Exception as error:
|
||||
# Логируем фатальные сбои в stderr
|
||||
sys.stderr.write(f"Ошибка MCP сервера: {str(error)}\n")
|
||||
sys.stderr.flush()
|
||||
except KeyboardInterrupt:
|
||||
# Корректное завершение работы при нажатии Ctrl+C пользователем в терминале
|
||||
sys.exit(0)
|
||||
|
||||
|
||||
if __name__ == "__main__":
|
||||
main()
|
||||
Generated
+7
@@ -0,0 +1,7 @@
|
||||
# This file is automatically @generated by Poetry 1.8.0 and should not be changed by hand.
|
||||
package = []
|
||||
|
||||
[metadata]
|
||||
lock-version = "2.0"
|
||||
python-versions = "^3.12"
|
||||
content-hash = "34e39677d8527182346093002688d17a5d2fc204b9eb3e094b2e6ac519028228"
|
||||
@@ -0,0 +1,14 @@
|
||||
[tool.poetry]
|
||||
name = "2026-omlx-mcp-server"
|
||||
version = "0.1.0"
|
||||
description = ""
|
||||
authors = ["erjemin <erjemin@gmail.com>"]
|
||||
readme = "README.md"
|
||||
|
||||
[tool.poetry.dependencies]
|
||||
python = "^3.12"
|
||||
|
||||
|
||||
[build-system]
|
||||
requires = ["poetry-core"]
|
||||
build-backend = "poetry.core.masonry.api"
|
||||
Reference in New Issue
Block a user