Термин «LLMOps» обсуждается — хотя он и охватывает операционные проблемы развертывания и управления большими языковыми моделями, это мощный, генеративный и интерактивный характер современных LLM, которые представляют определенные проблемы и возможности. Более того, «большой» аспект LLM может быть временным, поскольку мир открытого исходного кода продолжает сокращать размеры моделей. Таким образом, фокус «LLMOps» может сместиться на другие подмножества операций, которые более точно описывают операционные проблемы:

GenerativeOps. Этот термин подчеркивает генеративный аспект больших языковых моделей, который относится к их способности создавать новые, согласованные и контекстуально релевантные выходные данные. В нем подчеркиваются операционные проблемы и соображения, связанные с управлением этими генеративными возможностями, такими как контроль выходных данных модели, обеспечение качества и актуальности сгенерированного контента, а также отслеживание возможного неправомерного использования.

Операции языковой модели. Этот термин отражает идею о том, что операции предназначены специально для языковых моделей. Однако этот термин может быть слишком широким, поскольку он также может применяться к более простым негенеративным языковым моделям, которые не требуют такого же уровня операционной сложности, как большие генеративные модели.

AgentOps. Этот термин указывает на интерактивный характер больших языковых моделей, представляя их как «агентов», с которыми взаимодействуют пользователи. В нем подчеркивается необходимость операций, которые поддерживают и управляют этими взаимодействиями, гарантируя, что модель ведет себя надлежащим образом и обеспечивает ценность при взаимодействии с пользователями.

Таким образом, каждый термин подчеркивает отдельный аспект больших языковых моделей:

  • LLMOps фокусируется на масштабе и операционной сложности.
  • GenerativeOps подчеркивает уникальные генеративные способности и связанные с ними проблемы.
  • Language Model Ops — это более общий термин, который может применяться к более широкому кругу моделей.
  • AgentOps подчеркивает интерактивный характер этих моделей и необходимость операций, управляющих этими взаимодействиями.

Хотя LLMOps является подходящим термином, учитывая операционный аспект работы с этими крупномасштабными моделями, в самом ближайшем будущем акцент LLMOps может сместиться на более узкие задачи «Ops», что сделает текущий термин устаревшим.