Уроки кризиса управления OpenAI и модели DAO

В последнее время кризис управления внутри OpenAI вызвал широкое обсуждение в отрасли. Многие считают, что если бы OpenAI приняла форму децентрализованной автономной организации (DAO) для управления, это могло бы помочь избежать этого скандала. Эта точка зрения заслуживает размышлений, поскольку некоторые принципы управления DAO действительно могут помочь OpenAI улучшить свою управленческую структуру.

OpenAI, как некоммерческая организация, стремящаяся создать безопасный общий искусственный интеллект (AGI) и принести пользу всему человечеству, имеет миссию, схожую с многими DAO, создающими общественные блага. Однако недавние внутренние потрясения в OpenAI не стали следствием самой организационной структуры, а вызваны неясными и неразумными правилами управления.

Например, совет директоров OpenAI, являющийся высшим органом власти, изначально состоял из 9 человек, но в настоящее время осталось только 6, и не удалось своевременно пополнить состав новыми членами. Более того, вызывает беспокойство, что такие важные решения, как замена генерального директора Сэма Альтмана, принимаются на закрытых заседаниях отдельными директорами, без достаточного обсуждения и процесса рассмотрения, а также без учета мнений других заинтересованных сторон.

Для организации, играющей важную роль в развитии базовых технологий, социальной безопасности и даже судьбе человечества, механизм управления OpenAI явно имеет серьезные недостатки. Опираясь на модель управления DAO, OpenAI, возможно, стоит рассмотреть возможность введения большего количества сдерживающих факторов, таких как представители сотрудников, и создания более прозрачного и инклюзивного механизма принятия решений.

! [Мнение: Если бы OpenAI была DAO, можно ли было бы избежать этого управленческого фарса?] ](https://img-cdn.gateio.im/webp-social/moments-399a3df7cdf9415d74da2dac7aa4b160.webp)

Стоит отметить, что DAO изначально было предложено с целью создания системы, полностью зависящей от кода и работающей автономно. Однако в реальности DAO пришлось принять необходимость человеческого вмешательства, и его характеристики изменились с "автономности" на "сообщество, движущее вперед". Этот переход имеет интересные аналогии с путем развития AGI.

OpenAI определяет AGI как высоко автономную систему, способную превосходить человека в большинстве экономически ценных работ. По сути, AGI и DAO стремятся построить действительно автономные системы. Как же нам управлять такими системами? Следует ли больше полагаться на внутренние человеческие ценности или усилить внешние ограничения? Это вопрос, который необходимо серьезно обдумать в процессе развития от больших языковых моделей к AGI.

Последние новости показывают, что до 90% сотрудников OpenAI заявили о готовности уволиться и последовать за Сэмом Альтманом. Это явление отражает давнюю дискуссию в области DAO: что важнее, правила, основанные на коде, или коллективный консенсус сообщества?

Несмотря на то, что правила и ограничения могут создать множество консенсусов, по-настоящему великий консенсус часто возникает из общего чувства миссии и культурных ценностей. Эта глубокая резонанс и согласованность являются основой организационной сплоченности. Мы уже знаем, как создать этот резонанс между людьми, но для AI-систем, как достичь согласования этих ценностей, остается серьезной задачей.