feat: 十轮网关优化 - 安全加固/可观测性/性能/可靠性
- SSE Keepalive Ping (15s心跳防止代理断连) - Timing HTTP 头 (X-Timing-Queue/Inference/Total-Ms) - Adapter Request-ID 传播到后端 - Session 清理日志回调 - Server 安全加固 (ReadHeaderTimeout/MaxHeaderBytes 防 slowloris) - Usage Tracker 数据保留清理 (retentionDays + 定期清理) - Config Reload 后 Adapter Registry 更新 (RegisterIfAbsent + RWMutex) - Rate Limiter 空闲 Bucket 清理 (30分钟过期) - Shutdown Drain 超时可配置 (ShutdownDrainSeconds) - Config 模型字段校验增强 (provider/endpoint/actual_model) - Auth 过期 Key 自动清理 (5分钟扫描) - Admin API Rate Limiting - Adapter Health Check 独立超时 (每个 adapter 3s) - TCP 连接阶段超时 (DialContext 5s + KeepAlive 30s) - 幂等键缓存、审计日志、Gzip 中间件、CORS Expose Headers - Backpressure 响应头、熔断器 Prometheus 指标 - 连接池优化、Trace-ID 全链路传播
This commit is contained in:
+153
-10
@@ -128,26 +128,84 @@ func (s *Store) Get(id string) (*Session, error) {
|
||||
return session, nil
|
||||
}
|
||||
|
||||
// AddMessage appends a message to the session and updates last_active.
|
||||
func (s *Store) AddMessage(id string, msg api.Message) error {
|
||||
// GetForApp 检索会话并校验 application_id 是否匹配。
|
||||
// 如果会话不属于该 app,返回 nil(权限隔离)。
|
||||
func (s *Store) GetForApp(id, appID string) (*Session, error) {
|
||||
sess, err := s.Get(id)
|
||||
if err != nil {
|
||||
return nil, err
|
||||
}
|
||||
if sess == nil {
|
||||
return nil, nil
|
||||
}
|
||||
if sess.ApplicationID != appID {
|
||||
return nil, nil
|
||||
}
|
||||
return sess, nil
|
||||
}
|
||||
|
||||
// DeleteForApp 删除会话并校验 application_id 是否匹配。
|
||||
// 如果会话不属于该 app,返回错误。
|
||||
func (s *Store) DeleteForApp(id, appID string) error {
|
||||
s.mu.Lock()
|
||||
defer s.mu.Unlock()
|
||||
|
||||
session, err := s.Get(id)
|
||||
if err != nil {
|
||||
return err
|
||||
}
|
||||
if session == nil {
|
||||
var existingAppID string
|
||||
err := s.db.QueryRow(`SELECT application_id FROM sessions WHERE id = ?`, id).Scan(&existingAppID)
|
||||
if err == sql.ErrNoRows {
|
||||
return fmt.Errorf("session not found: %s", id)
|
||||
}
|
||||
if err != nil {
|
||||
return fmt.Errorf("query session: %w", err)
|
||||
}
|
||||
if existingAppID != appID {
|
||||
return fmt.Errorf("session does not belong to application: %s", appID)
|
||||
}
|
||||
|
||||
session.Messages = append(session.Messages, msg)
|
||||
msgsJSON, _ := json.Marshal(session.Messages)
|
||||
_, err = s.db.Exec(`DELETE FROM sessions WHERE id = ?`, id)
|
||||
return err
|
||||
}
|
||||
|
||||
// AddMessage 追加消息到会话并更新 last_active。
|
||||
// 当消息数超过 maxMessages 时,自动裁剪最旧的消息。
|
||||
// 注意:不能调用 s.Get(),因为 Get 会获取读锁,而此处已持有写锁,会导致死锁。
|
||||
func (s *Store) AddMessage(id string, msg api.Message) error {
|
||||
return s.AddMessageWithLimit(id, msg, 0)
|
||||
}
|
||||
|
||||
// AddMessageWithLimit 追加消息到会话,当 maxMessages > 0 时限制消息总数。
|
||||
// 超出上限时自动裁剪最旧的消息,保留最新的 maxMessages 条。
|
||||
func (s *Store) AddMessageWithLimit(id string, msg api.Message, maxMessages int) error {
|
||||
s.mu.Lock()
|
||||
defer s.mu.Unlock()
|
||||
|
||||
var msgsJSON string
|
||||
err := s.db.QueryRow(`SELECT messages FROM sessions WHERE id = ?`, id).Scan(&msgsJSON)
|
||||
if err == sql.ErrNoRows {
|
||||
return fmt.Errorf("session not found: %s", id)
|
||||
}
|
||||
if err != nil {
|
||||
return fmt.Errorf("query session messages: %w", err)
|
||||
}
|
||||
|
||||
var msgs []api.Message
|
||||
if err := json.Unmarshal([]byte(msgsJSON), &msgs); err != nil {
|
||||
return fmt.Errorf("unmarshal session messages: %w", err)
|
||||
}
|
||||
|
||||
msgs = append(msgs, msg)
|
||||
|
||||
// 消息数上限保护:裁剪最旧消息
|
||||
if maxMessages > 0 && len(msgs) > maxMessages {
|
||||
msgs = msgs[len(msgs)-maxMessages:]
|
||||
}
|
||||
|
||||
newMsgsJSON, _ := json.Marshal(msgs)
|
||||
now := time.Now().Format(time.RFC3339)
|
||||
|
||||
_, err = s.db.Exec(
|
||||
`UPDATE sessions SET messages = ?, last_active = ? WHERE id = ?`,
|
||||
string(msgsJSON), now, id,
|
||||
string(newMsgsJSON), now, id,
|
||||
)
|
||||
return err
|
||||
}
|
||||
@@ -161,11 +219,96 @@ func (s *Store) Delete(id string) error {
|
||||
return err
|
||||
}
|
||||
|
||||
// ListByApp 列出指定 app 的会话(分页)。
|
||||
func (s *Store) ListByApp(appID string, limit, offset int) ([]*Session, error) {
|
||||
s.mu.RLock()
|
||||
defer s.mu.RUnlock()
|
||||
|
||||
if limit <= 0 || limit > 100 {
|
||||
limit = 20
|
||||
}
|
||||
|
||||
rows, err := s.db.Query(
|
||||
`SELECT id, application_id, tenant_id, user_id, messages, config, created_at, last_active
|
||||
FROM sessions WHERE application_id = ? ORDER BY last_active DESC LIMIT ? OFFSET ?`,
|
||||
appID, limit, offset,
|
||||
)
|
||||
if err != nil {
|
||||
return nil, fmt.Errorf("list sessions: %w", err)
|
||||
}
|
||||
defer rows.Close()
|
||||
|
||||
var sessions []*Session
|
||||
for rows.Next() {
|
||||
var (
|
||||
sid, sAppID, sTenantID, sUserID, msgsJSON, configJSON, createdAt, lastActive string
|
||||
)
|
||||
if err := rows.Scan(&sid, &sAppID, &sTenantID, &sUserID, &msgsJSON, &configJSON, &createdAt, &lastActive); err != nil {
|
||||
return nil, err
|
||||
}
|
||||
sess := &Session{
|
||||
ID: sid,
|
||||
ApplicationID: sAppID,
|
||||
TenantID: sTenantID,
|
||||
UserID: sUserID,
|
||||
CreatedAt: parseTime(createdAt),
|
||||
LastActive: parseTime(lastActive),
|
||||
}
|
||||
json.Unmarshal([]byte(msgsJSON), &sess.Messages)
|
||||
json.Unmarshal([]byte(configJSON), &sess.Config)
|
||||
sessions = append(sessions, sess)
|
||||
}
|
||||
return sessions, rows.Err()
|
||||
}
|
||||
|
||||
// Close closes the database connection.
|
||||
func (s *Store) Close() error {
|
||||
return s.db.Close()
|
||||
}
|
||||
|
||||
// CleanupExpired 清理超过 TTL 未活跃的会话。
|
||||
// ttlMinutes 为会话空闲超时(分钟),超过此时间未活跃的会话将被删除。
|
||||
// 返回删除的会话数量。
|
||||
func (s *Store) CleanupExpired(ttlMinutes int) (int64, error) {
|
||||
s.mu.Lock()
|
||||
defer s.mu.Unlock()
|
||||
|
||||
cutoff := time.Now().Add(-time.Duration(ttlMinutes) * time.Minute).Format(time.RFC3339)
|
||||
result, err := s.db.Exec(`DELETE FROM sessions WHERE last_active < ?`, cutoff)
|
||||
if err != nil {
|
||||
return 0, fmt.Errorf("cleanup expired sessions: %w", err)
|
||||
}
|
||||
n, _ := result.RowsAffected()
|
||||
return n, nil
|
||||
}
|
||||
|
||||
// StartCleanupTask 启动后台定时清理任务。
|
||||
// ttlMinutes 为会话空闲超时(分钟),intervalMinutes 为清理间隔(分钟)。
|
||||
// onCleanup 为清理完成后的回调(可传 nil),参数为清理的会话数量。
|
||||
// 返回停止函数,调用以停止清理任务。
|
||||
func (s *Store) StartCleanupTask(ttlMinutes, intervalMinutes int, onCleanup func(deleted int64)) func() {
|
||||
ticker := time.NewTicker(time.Duration(intervalMinutes) * time.Minute)
|
||||
stop := make(chan struct{})
|
||||
|
||||
go func() {
|
||||
for {
|
||||
select {
|
||||
case <-ticker.C:
|
||||
if n, err := s.CleanupExpired(ttlMinutes); err == nil && n > 0 {
|
||||
if onCleanup != nil {
|
||||
onCleanup(n)
|
||||
}
|
||||
}
|
||||
case <-stop:
|
||||
ticker.Stop()
|
||||
return
|
||||
}
|
||||
}
|
||||
}()
|
||||
|
||||
return func() { close(stop) }
|
||||
}
|
||||
|
||||
func parseTime(s string) time.Time {
|
||||
t, _ := time.Parse(time.RFC3339, s)
|
||||
return t
|
||||
|
||||
Reference in New Issue
Block a user