ZipRecruiter

Log In

1

Vllm Jobs in Ohio (NOW HIRING)

MAKONIS GmbH

$82.15 - $105.62/hr

Erste Erfahrungen im Umgang mit LLMs und modernen Inferenz‑Runtimes (z. B. ollama, vllm). * Freude an der direkten Zusammenarbeit mit Partnern und Kunden. * Fließende Deutschkenntnisse in Wort ...

Citizens

Sr Data Scientist- Generative AI

Columbus, OH · On-site

Build scalable AI solutions using modern frameworks and infrastructure including vLLM, LangChain, LangGraph, MLflow, Databricks, Snowflake, and cloud-native platforms. * Perform exploratory data ...

Citizens

Sr Data Scientist- Generative AI

Columbus, OH · On-site

Build scalable AI solutions using modern frameworks and infrastructure including vLLM, LangChain, LangGraph, MLflow, Databricks, Snowflake, and cloud-native platforms. * Perform exploratory data ...

Mayflower GmbH

$91.34 - $102.76/hr

Du arbeitest über alle Schichten - Model-Serving (vLLM, eigene GPU-Cluster), Agent-Gateways und Runtimes, RAG-/GraphRAG-Pipelines, spezialisierte Agenten, Integration in ERP, CRM, DMS und Legacy ...

Judge Group, Inc.

Agentic AI/Java/Python

Columbus, OH · On-site

LangGraph * vLLM * Experience designing and orchestrating multi-agent workflows, tool integrations, and autonomous decision-making frameworks. * Ability to develop, test, and optimize AI-driven ...

EXXETA AG

$60 - $90/hr

Pluspunkt: Erfahrung mit vLLM, SGLang oder vergleichbaren Inference‑Technologien, GPU‑Clustern, souveränen Cloud‑ oder Private‑Cloud‑Umgebungen. * On the road: Du bist reisebereit und ...

New

SassyClassy

$69.41 - $92.55/hr

Mindestens 2 Jahre Berufserfahrung in der Software-Entwicklung mit Fokus auf AI/ML * Erfahrung mit LLM-APIs (OpenAI, Anthropic Claude, lokale Modelle via Ollama/vLLM) * Erfahrung mit Vektor ...

next page

Showing results 1-20

All JobsVllm JobsVllm Jobs in Ohio

Vllm information

What is a vLLM?

VLLM stands for 'Virtual Large Language Model.' In the context of AI development, VLLM professionals work with optimized inference engines for large language models, enabling faster and more efficient deployment of AI models in production environments. Their responsibilities often include integrating LLMs into applications, optimizing model performance, and ensuring scalability for real-time use cases. They may also collaborate with data scientists and engineers to manage resources and streamline AI workflows.

How does a vLLM engineer typically collaborate with data scientists and product teams during model deployment?

VLLM Engineers work closely with data scientists to understand the specific requirements and fine-tuning needs of large-scale language models. They are often responsible for integrating these models into production systems, ensuring scalability and efficiency. Collaboration with product teams is crucial to align model capabilities with user needs and to troubleshoot real-world application challenges. Frequent communication and agile workflows are common, as updates or optimizations may be needed rapidly based on feedback from both teams.

What are the key skills and qualifications needed to thrive as a machine learning engineer working with vLLM, and why are they important?

To thrive as a Machine Learning Engineer specializing in vLLM (a high-throughput LLM inference library), you need a strong understanding of machine learning principles, deep learning frameworks, and experience with Python programming. Familiarity with tools like PyTorch, CUDA, distributed computing, and cloud platforms, as well as relevant certifications in ML or data engineering, is highly valuable. Strong problem-solving, collaboration, and communication skills are essential for optimizing model performance and integrating with cross-functional teams. These capabilities ensure effective deployment and scaling of large language models, driving innovation and efficiency in AI applications.

What is the difference between Vllm vs Data Analyst?

AspectVllmData Analyst
Required CredentialsTypically requires knowledge of machine learning, AI, and programming languages like Python or RRequires skills in statistics, Excel, SQL, and data visualization tools
Work EnvironmentOften in tech companies, research labs, or AI-focused teamsCommonly in business, finance, healthcare, and marketing sectors
Industry UsageEmerging role in AI and machine learning projectsEstablished role in data-driven decision making
Common Search/ComparisonVllm vs Data Analyst

The main difference between Vllm and Data Analyst lies in their focus and skill set. Vllm professionals specialize in AI and machine learning models, often working in tech environments, while Data Analysts focus on interpreting data to inform business decisions. Both roles require analytical skills, but Vllm roles demand programming and AI expertise, whereas Data Analysts emphasize statistical analysis and data visualization.

What are popular job titles related to Vllm jobs in Ohio?

For Vllm jobs in Ohio, the most frequently searched job titles are:

What job categories do people searching Vllm jobs in Ohio look for?

The top searched job categories for Vllm jobs in Ohio are:

Vllm jobs near you
Infographic showing various Vllm job openings in Ohio as of August 2026, with employment types broken down into 89% Full Time, 7% Part Time, and 4% Contract. Highlights an 75% Physical, 6% Hybrid, and 19% Remote job distribution.

(Senior) AI Engineer (m/w/d)

MAKONIS GmbH

On-site

$82.15 - $105.62/hr

Other

Posted 16 days ago

Job description

Über MAKONIS

Du willst die KI-Revolution aktiv mitgestalten und innovative KI-Lösungen von der Idee bis zum Go‑Live begleiten? Dann werde Teil von MAKONIS! Wir sind Experten für souveräne KI‑Lösungen und suchen leidenschaftliche AI Engineers, die mit uns die Zukunft der Enterprise AI gestalten.

Als Innovationstreiber und Architekten für künstliche Intelligenz sind wir verlässliche Partner auf Augenhöhe für unsere Kunden. Unser Fokus liegt auf dem MAKONIS Sovereign AI Stack – unserem eigenen Framework, dases Unternehmen ermöglicht, das volle Potenzial von KI zu nutzen, ohne die Kontrolle über ihre Daten zu verlieren.

Mit LLMrouter.eu betreiben wir ein Managed AI Gateway und leisten damit unseren Beitrag zur sicheren und verantwortungsvollen Nutzung von generativer KI aus Europa.

Dein Profil

MUST‑HAVES:

  • Ein hohes Maß an Neugier und Leidenschaft für das Thema künstliche Intelligenz, insbesondere generative KI.
  • Fundierte Erfahrung in der Softwareentwicklung, idealerweise mit Python oder C#.
  • Nachweisbare Erfahrung im Aufbau und Betrieb von Infrastruktur für KI/ML‑Anwendungen.
  • Praktische Kenntnisse mit Container‑Technologien wie Docker und Kubernetes.
  • Erste Erfahrungen im Umgang mit LLMs und modernen Inferenz‑Runtimes (z. B. ollama, vllm).
  • Freude an der direkten Zusammenarbeit mit Partnern und Kunden.
  • Fließende Deutschkenntnisse in Wort und Schrift.

NICE‑TO‑HAVE:

  • Erfahrung in der Entwicklung von KI‑Agenten mit Frameworks wie Langchain.
  • Praktische Erfahrung im Finetuning von Large Language Models.
  • Kenntnisse über Cloud‑Plattformen (z. B. Azure, AWS, GCP) und deren KI‑Services.
  • Erfahrung mit MLOps‑Prinzipien und -Werkzeugen.
  • Erfahrung in der agilen Softwareentwicklung und mit CI/CD‑Pipelines (z. B. mit Azure DevOps).
Komm zu uns als (Senior) AI Engineer

Als (Senior) AI Engineer bist Du der technische Treiber in unseren KI‑Projekten. Du konzipierst und implementierst die Infrastruktur sowie die Anwendungen, die es unseren Kunden ermöglichen, generative KI sicher und effizient einzusetzen.

Du übernimmst von Anfang an Verantwortung. Deine Rolle geht über die reine Entwicklung hinaus: Gemeinsam mit Kollegen und Kunden bringst Du Deine Ideen in die Anforderungsanalyse ein und entwickelst daraus robuste KI‑Lösungen. Du begleitest den gesamten Lebenszyklus von der Konzeption der Infrastruktur über die Entwicklung von KI‑Agenten bis hin zum Betrieb und der kontinuierlichen Optimierung.

Deine Aufgaben im Detail
  • KI‑Infrastruktur: Du konzipierst, implementierst und betreibst die Infrastruktur für das Training und die Inferenz von KI‑Modellen. Der Aufbau und die Verwaltung von Inferenz‑Runtimes (z. B. vllm, ollama, llama.cpp, Foundry Local) sind ein Kernbestandteil Deiner Arbeit.
  • LLM‑Operations: Du bist verantwortlich für die Konfiguration, das Finetuning und die Evaluation von Large Language Models, um sie optimal für spezifische Anwendungsfälle anzupassen.
  • KI‑Anwendungsentwicklung: Du entwickelst intelligente KI‑Agenten und komplexe Anwendungsintegrationen mit Frameworks wie Langchain, n8n oder direkt in Python oder C#.
  • Container‑Plattformen: Du nutzt Deine Expertise in Docker und Kubernetes, um KI‑Workloads skalierbar, effizient und portabel bereitzustellen.
  • Beratung und Konzeption: Du berätst unsere Kunden bei der Auswahl und Implementierung der richtigen KI‑Technologien und -Strategien.
  • Team und Mentoring: Du gibst Dein Wissen an Kollegen weiter und trägst aktiv zur Weiterentwicklung unserer internen Prozesse und unseres Sovereign AI Stacks bei.
Das bieten wir Dir
  • Home‑Office und modernes Büro in der Parkstadt Schwabing
  • EGYM Wellpass oder Mobilitätsbudget
  • Spannende Projekte mit interessanten Kunden und eigenen SaaS‑Anwendungen
  • 100 % Teamwork / 0 % Bodyleasing: Wir verstehen uns als Team und nicht als Armee von Einzelkämpfern.
  • Unbefristete Verträge mit angemessener Vergütung
  • No Old School: Bei uns heißt es Business Software am Zahn der Zeit – wer Geschäftsprozesse mit aktuellen Technologien aus der Cloud abbilden will, ist bei uns richtig. Wer gerne an verstaubten Altsystemen arbeitet, geht besser ins Museum.
  • Top Hardware und Software
  • Kaffee‑, Wasser‑ und Obst‑Flat
#J-18808-Ljbffr

Apply