类 RuntimeContextInternal

constructor

• new RuntimeContext(getGlobalFunc): RuntimeContext

• 参数

  • getGlobalFunc: ((name) => PackedFunc)

    • • (name): PackedFunc

      • 参数

        • name: string

        返回值 PackedFunc

  返回值 RuntimeContext

applyPresenceAndFrequencyPenalty

applyRepetitionPenalty

applySoftmaxWithTemperature

arrayCacheClear

arrayCacheGet

arrayCacheRemove

arrayCacheUpdate

arrayConcat

arrayDecodeStorage

arrayGetItem

arrayGetSize

arrayMake

concatEmbeddings

getFFIString

getSysLib

makeShapeTuple

ndarrayCreateView

paramModuleFromCache

paramModuleFromCacheByName

sampleTopPFromLogits

sampleTopPFromProb

stringMake

attachToCurrentScope

• attachToCurrentScope<T>(obj): T

• 跟踪对象以便在当前作用域中释放。

  注意

  此函数仅需为原始系统 C API 值调用。PackedFunc 的返回值将被自动跟踪。

  类型参数

  • T extends Disposable

  参数

  • obj: T

    要跟踪的对象。

  返回值 T

  相同的对象。

beginScope

• beginScope(): void

• 返回值 void

detachFromCurrentScope

• detachFromCurrentScope<T>(obj): T

• 类型参数

  • T extends Disposable

  参数

  • obj: T

  返回值 T

dispose

• dispose(): void

• 释放内部资源。此函数可以多次调用，但只有第一次调用会生效。

  返回值 void

endScope

• endScope(): void

• 返回值 void

moveToParentScope

• moveToParentScope<T>(obj): T

• 类型参数

  • T extends Disposable

  参数

  • obj: T

  返回值 T