Python/Pandas Dataframe remplacer 0 par la valeur médiane

Question

J'ai un cadre de données pandas en python avec plusieurs colonnes et l'une d'entre elles a 0 valeurs. Je veux remplacer le 0 avec les valeurs median o mean de cette colonne.

data est mon cadre de données
artist_hotness est la colonne

mean_artist_hotness = data['artist_hotness'].dropna().mean()

if len(data.artist_hotness[ data.artist_hotness.isnull() ]) > 0:
data.artist_hotness.loc[ (data.artist_hotness.isnull()), 'artist_hotness'] = mean_artist_hotness

J'ai essayé, mais ça ne marche pas.

Answer 1

Utiliser pandas replace méthode :

df = pd.DataFrame({'a': [1,2,3,4,0,0,0,0], 'b': [2,3,4,6,0,5,3,8]}) 

df 
   a  b
0  1  2
1  2  3
2  3  4
3  4  6
4  0  0
5  0  5
6  0  3
7  0  8

df['a']=df['a'].replace(0,df['a'].mean())

df
   a  b
0  1  2
1  2  3
2  3  4
3  4  6
4  1  0
5  1  5
6  1  3
7  1  8

Answer 2

Je pense que vous pouvez utiliser mask et ajouter le paramètre skipna=True t mean au lieu de dropna . Il faut aussi changer la condition pour data.artist_hotness == 0 si besoin remplacer 0 ou data.artist_hotness.isnull() si besoin remplacer NaN valeurs :

import pandas as pd
import numpy as np

data = pd.DataFrame({'artist_hotness': [0,1,5,np.nan]})
print (data)
   artist_hotness
0             0.0
1             1.0
2             5.0
3             NaN

mean_artist_hotness = data['artist_hotness'].mean(skipna=True)
print (mean_artist_hotness)
2.0

data['artist_hotness']=data.artist_hotness.mask(data.artist_hotness == 0,mean_artist_hotness)
print (data)
   artist_hotness
0             2.0
1             1.0
2             5.0
3             NaN

---

Vous pouvez également utiliser loc mais sans le nom de la colonne :

data.loc[data.artist_hotness == 0, 'artist_hotness'] = mean_artist_hotness
print (data)
   artist_hotness
0             2.0
1             1.0
2             5.0
3             NaN

data.artist_hotness.loc[data.artist_hotness == 0, 'artist_hotness'] = mean_artist_hotness
print (data)

IndexingError : (0 True 1 faux 2 Faux 3 Faux Nom : artist_hotness, dtype : bool, 'artist_hotness')

Une autre solution est DataFrame.replace en spécifiant des colonnes :

data=data.replace({'artist_hotness': {0: mean_artist_hotness}}) 
print (data)
    aa  artist_hotness
0  0.0             2.0
1  1.0             1.0
2  5.0             5.0
3  NaN             NaN 

Ou si besoin remplacer tous 0 dans toutes les colonnes :

import pandas as pd
import numpy as np

data = pd.DataFrame({'artist_hotness': [0,1,5,np.nan], 'aa': [0,1,5,np.nan]})
print (data)
    aa  artist_hotness
0  0.0             0.0
1  1.0             1.0
2  5.0             5.0
3  NaN             NaN

mean_artist_hotness = data['artist_hotness'].mean(skipna=True)
print (mean_artist_hotness)
2.0

data=data.replace(0,mean_artist_hotness) 
print (data)
    aa  artist_hotness
0  2.0             2.0
1  1.0             1.0
2  5.0             5.0
3  NaN             NaN

Si nécessaire, remplacer NaN dans toutes les colonnes, utilisez DataFrame.fillna :

data=data.fillna(mean_artist_hotness) 
print (data)
    aa  artist_hotness
0  0.0             0.0
1  1.0             1.0
2  5.0             5.0
3  2.0             2.0

Mais si seulement dans certaines colonnes utiliser Series.fillna :

data['artist_hotness'] = data.artist_hotness.fillna(mean_artist_hotness) 
print (data)
    aa  artist_hotness
0  0.0             0.0
1  1.0             1.0
2  5.0             5.0
3  NaN             2.0

Answer 3

J'ai trouvé ces informations très utiles, bien que mask est vraiment lent (je ne sais pas trop pourquoi).

J'ai fait ça :

df.loc[ df['artist_hotness'] == 0 | np.isnan(df['artist_hotness']), 'artist_hotness' ] = df['artist_hotness'].median()

Answer 4

data['artist_hotness'] = data['artist_hotness'].map( lambda x : data.artist_hotness.mean() if x == 0 else x)