# Gestionnaires de kwargs

Les objets suivants peuvent être passés à l'[Accelerator](/docs/accelerate/v1.16.0/fr/package_reference/accelerator#accelerate.Accelerator) principal pour personnaliser la création de certains objets PyTorch liés à l'entraînement distribué ou à la précision mixte.

## AutocastKwargs[[accelerate.AutocastKwargs]]

#### accelerate.AutocastKwargs[[accelerate.AutocastKwargs]]

```python
accelerate.AutocastKwargs(enabled: bool = True, cache_enabled: bool | None = None)
```

[Source](https://github.com/huggingface/accelerate/blob/v1.16.0/src/accelerate/utils/dataclasses.py#L104)

Utilisez cet objet dans votre [Accelerator](/docs/accelerate/v1.16.0/fr/package_reference/accelerator#accelerate.Accelerator) pour personnaliser le comportement de `torch.autocast`. Veuillez consulter la documentation de ce [context manager](https://pytorch.org/docs/stable/amp.html#torch.autocast) pour plus d’informations sur chaque argument.

Exemple :

```python
from accelerate import Accelerator
from accelerate.utils import AutocastKwargs

kwargs = AutocastKwargs(cache_enabled=True)
accelerator = Accelerator(kwargs_handlers=[kwargs])
```

## DistributedDataParallelKwargs[[accelerate.DistributedDataParallelKwargs]]

#### accelerate.DistributedDataParallelKwargs[[accelerate.DistributedDataParallelKwargs]]

```python
accelerate.DistributedDataParallelKwargs(dim: int = 0, broadcast_buffers: bool = True, bucket_cap_mb: int = 25, find_unused_parameters: bool = False, check_reduction: bool = False, gradient_as_bucket_view: bool = False, static_graph: bool = False, comm_hook: DDPCommunicationHookType = <DDPCommunicationHookType.NO: 'no'>, comm_wrapper: typing.Literal[<DDPCommunicationHookType.NO: 'no'>, <DDPCommunicationHookType.FP16: 'fp16'>, <DDPCommunicationHookType.BF16: 'bf16'>] = <DDPCommunicationHookType.NO: 'no'>, comm_state_option: dict = <factory>)
```

[Source](https://github.com/huggingface/accelerate/blob/v1.16.0/src/accelerate/utils/dataclasses.py#L146)

Utilisez cet objet dans votre [Accelerator](/docs/accelerate/v1.16.0/fr/package_reference/accelerator#accelerate.Accelerator) pour personnaliser la manière dont votre modèle est encapsulé dans un `torch.nn.parallel.DistributedDataParallel`. Veuillez consulter la documentation de ce [wrapper](https://pytorch.org/docs/stable/generated/torch.nn.parallel.DistributedDataParallel.html) pour plus d’informations sur chaque argument.

Exemple :

```python
from accelerate import Accelerator
from accelerate.utils import DistributedDataParallelKwargs

kwargs = DistributedDataParallelKwargs(find_unused_parameters=True)
accelerator = Accelerator(kwargs_handlers=[kwargs])
```

## ProfileKwargs[[accelerate.ProfileKwargs]]

#### accelerate.ProfileKwargs[[accelerate.ProfileKwargs]]

```python
accelerate.ProfileKwargs(activities: list[typing.Literal['cpu', 'xpu', 'mtia', 'cuda', 'hpu']] | None = None, schedule_option: dict[str, int] | None = None, on_trace_ready: typing.Callable | None = None, record_shapes: bool = False, profile_memory: bool = False, with_stack: bool = False, with_flops: bool = False, with_modules: bool = False, output_trace_dir: str | None = None)
```

[Source](https://github.com/huggingface/accelerate/blob/v1.16.0/src/accelerate/utils/dataclasses.py#L416)

**Paramètres :**

activities (`List[str]`, *facultatif*, par défaut `None`) : La liste des groupes d'activités à utiliser pour le profilage. Doit être l'un des éléments suivants : `"cpu"`, `"xpu"`, `"mtia"`, "hpu" ou `"cuda"`.

schedule_option (`Dict[str, int]`, *facultatif*, par défaut `None`) : L’option d’ordonnancement à utiliser pour le profilage. Les clés disponibles sont `wait`, `warmup`, `active`, `repeat` et `skip_first`. Le profilateur ignorera les `skip_first` premières étapes, puis attendra `wait` étapes, effectuera le réchauffement pendant les `warmup` étapes suivantes, enregistra activement pendant les `active` étapes suivantes, puis répétera le cycle en commençant par `wait` étapes. Le nombre facultatif de cycles est spécifié par le paramètre `repeat` ; une valeur nulle signifie que les cycles se poursuivront jusqu’à la fin du profilage.

on_trace_ready (`Callable`, *facultatif*, valeur par défaut `None`) : Callable appelé à chaque étape lorsque le plan renvoie `ProfilerAction.RECORD_AND_SAVE` pendant le profilage.

record_shapes (`bool`, *facultatif*, par défaut `False`) : Enregistrer les informations sur les formes des entrées des opérateurs.

profile_memory (`bool`, *facultatif*, par défaut `False`) : Suivre l'allocation/désallocation de la mémoire des tenseurs

with_stack (`bool`, *facultatif*, par défaut `False`) : Enregistrer les informations de source (fichier et numéro de ligne) pour les opérations.

with_flops (`bool`, *facultatif*, par défaut `False`) : Utiliser la formule pour estimer les FLOPS des opérateurs spécifiques

with_modules (`bool`, *facultatif*, par défaut `False`) : Enregistre la hiérarchie des modules (y compris les noms de fonctions) correspondant à la pile d'appels de l'op.

output_trace_dir (`str`, *facultatif*, par défaut `None`) : Exporte la trace collectée au format JSON Chrome. Chrome utilise la vue « chrome://tracing » pour afficher les fichiers JSON. La valeur par défaut est None, ce qui signifie que le profilage n’enregistre pas de fichiers JSON.

Utilisez cet objet dans votre [Accelerator](/docs/accelerate/v1.16.0/fr/package_reference/accelerator#accelerate.Accelerator) pour personnaliser l’initialisation du profiler. Reportez-vous à la documentation de ce [context manager](https://pytorch.org/docs/stable/profiler.html#torch.profiler.profile) pour plus d’informations sur chaque argument.

Exemple :

```python
from accelerate import Accelerator
from accelerate.utils import ProfileKwargs

kwargs = ProfileKwargs(activities=["cpu", "cuda"])
accelerator = Accelerator(kwargs_handlers=[kwargs])
```

#### build[[accelerate.ProfileKwargs.build]]

```python
build()
```

[Source](https://github.com/huggingface/accelerate/blob/v1.16.0/src/accelerate/utils/dataclasses.py#L498)

**Retourne :** `torch.profiler.profile`

L'objet profiler.

Construire un objet de profilage avec la configuration actuelle.

## GradScalerKwargs[[accelerate.GradScalerKwargs]]

#### accelerate.GradScalerKwargs[[accelerate.GradScalerKwargs]]

```python
accelerate.GradScalerKwargs(init_scale: float = 65536.0, growth_factor: float = 2.0, backoff_factor: float = 0.5, growth_interval: int = 2000, enabled: bool = True)
```

[Source](https://github.com/huggingface/accelerate/blob/v1.16.0/src/accelerate/utils/dataclasses.py#L224)

Utilisez cet objet dans votre [Accelerator](/docs/accelerate/v1.16.0/fr/package_reference/accelerator#accelerate.Accelerator) pour personnaliser le comportement de la précision mixte, en particulier la manière dont le `torch.amp.GradScaler` ou le `torch.cuda.amp.GradScaler` utilisé est créé. Veuillez consulter la documentation de ce [scaler](https://pytorch.org/docs/stable/amp.html?highlight=gradscaler) pour plus d’informations sur chaque argument.

Exemple :

```python
from accelerate import Accelerator
from accelerate.utils import GradScalerKwargs

kwargs = GradScalerKwargs(backoff_factor=0.25)
accelerator = Accelerator(kwargs_handlers=[kwargs])
```

## InitProcessGroupKwargs[[accelerate.InitProcessGroupKwargs]]

#### accelerate.InitProcessGroupKwargs[[accelerate.InitProcessGroupKwargs]]

```python
accelerate.InitProcessGroupKwargs(backend: str | None = 'nccl', init_method: str | None = None, timeout: datetime.timedelta | None = None)
```

[Source](https://github.com/huggingface/accelerate/blob/v1.16.0/src/accelerate/utils/dataclasses.py#L249)

Utilisez cet objet dans votre [Accelerator](/docs/accelerate/v1.16.0/fr/package_reference/accelerator#accelerate.Accelerator) pour personnaliser l’initialisation des processus distribués. Veuillez consulter la documentation de cette [méthode](https://pytorch.org/docs/stable/distributed.html#torch.distributed.init_process_group) pour plus d’informations sur chaque argument.

Note : Si `timeout` est défini sur `None`, la valeur par défaut sera basée sur la configuration de `backend`.

```python
from datetime import timedelta
from accelerate import Accelerator
from accelerate.utils import InitProcessGroupKwargs

kwargs = InitProcessGroupKwargs(timeout=timedelta(seconds=800))
accelerator = Accelerator(kwargs_handlers=[kwargs])
```

## KwargsHandler[[accelerate.utils.KwargsHandler]]

#### accelerate.utils.KwargsHandler[[accelerate.utils.KwargsHandler]]

```python
accelerate.utils.KwargsHandler()
```

[Source](https://github.com/huggingface/accelerate/blob/v1.16.0/src/accelerate/utils/dataclasses.py#L59)

Mixin interne qui implémente une méthode `to_kwargs()` pour un dataclass.

#### to_kwargs[[accelerate.utils.KwargsHandler.to_kwargs]]

```python
to_kwargs()
```

[Source](https://github.com/huggingface/accelerate/blob/v1.16.0/src/accelerate/utils/dataclasses.py#L67)

Retourne un dictionnaire contenant les attributs dont les valeurs diffèrent des valeurs par défaut de cette classe.

