4x09: Buffer de memoria con ficheros

/*
	4x09-Buffer_de_memoria
	14/01/2012

	Una forma de hacer más eficiente el trabajo con ficheros secuenciales es la paginación, método consistente en la utilización de un buffer intermedio de memoria
	donde se guarden los siguientes n datos a ser leídos, o donde se escriban los siguientes n datos a ser escritos, en vez de estar interaccionando constantemente
	con el disco duro. Los sistemas operativos ya introducen su propio buffer para hacer más ágiles estas operaciones. Se trata de añadir un buffer más sobre el que
	tenga pleno control el programador. La forma de implementar esto es que el fichero ya no es de datos, sino de páginas de datos. Lo que se lee y escribe en él es
	una página de datos completa. Implementa este tipo de ficheros para el caso de enteros. Haz pruebas de generación y lectura/tratamiento del fichero para diferentes
	tamaños de buffer y para un tamaño de fichero considerable y mide el tiempo que cuesta en cada caso, comparándolo con un fichero sin paginación. Junto con el ejercicio
	debes entregar una tabla de datos con las mediciones realizadas y las conclusiones que extraes.
*/


#include <stdio.h>
#include <stdlib.h>
#include <time.h>


// Función que crea ficheros secuenciales con números enteros:
void crearFicheroDeDatos()
{
	/*
	Poscondición:
					A partir de un parámetro solicitado al usuario se crean X números enteros, todos ellos se almacenan en un fichero secuencial.
	*/


	FILE *fichero = fopen("datos.dat","w");
	float num;
	int numAle;
	int i;


	// Se genera una semilla de números aleatorios:
	srand((unsigned int)time(NULL));


	printf( "Indique el tamaño en MiB que quiere que tenga el fichero: " );
	scanf( "%g", &num );

	for( i=0; i < 250000*num; i++ )
	{
		numAle = rand()%10000;
		fwrite( &numAle, sizeof(int), 1, fichero );
	};
	printf( "\n   Se creo el fichero \"datos.dat\" con %.0f números enteros y un tamaño de %.0f MiB.\n\n", 250000*num , num );

	fclose( fichero );
};


// Función que muestra por pantalla el contenido de un fichero secuencial de enteros:
void leerFicheroDeDatos()
{
	/*
	Precondición:
					Es necesario que exista el fichero “datos.dat”

	Poscondición:
					Se muestra el contenido del fichero por pantalla, si su contenido es desmesurado no podrán mostrarse por pantalla debido a las limitaciones del terminal.
	*/


	FILE *fichero = fopen("datos.dat","r");
	int num, i;

	if( fichero == NULL )
		printf( "Genere el fichero secuencial primero\n" );
	else
	{
		printf( "Principio del fichero\n\n   " );
		fread( &num, sizeof(int), 1, fichero );

		while( !feof(fichero) )
		{
			if( i != 20 )
			{
				printf( "%i, ", num );
				i++;
			}
			else
			{
				printf( "%i\n   ", num );
				i=0;
			};

			fread( &num, sizeof(int), 1, fichero );
		};

		printf( "\n\nFinal del fichero\n" );

		fclose( fichero );
	};

};


// Función para contar el tiempo:
double timeval_diff(struct timeval *a, struct timeval *b)
{
	// Fuente: http://goo.gl/JF5v2
	return (double)(a->tv_sec + (double)a->tv_usec/1000000) - (double)(b->tv_sec + (double)b->tv_usec/1000000);
};


void realizarPruebasDeBuffer()
{
	/*
	Precondición:
					Es necesario que exista el fichero “datos.dat”
	Poscondición:
					Se calcula el tiempo que se tarda en hacer las operaciones con los números leídos del fichero de datos de dos formas diferentes,
					  al primera haciendo lecturas de entero en entero, y la segunda haciendo lecturas en "tamPagina" en "tamPagina".
					  Las operaciones con los números enteros se basan en la suma de los pares e impares cada uno por un lado. Con los resultados no se hace nada.
	*/


	FILE *fichero = fopen("datos.dat","r");
	int unNumero;
	int *vectorNumeros = NULL; // Como no sabemos el "tamPagina" que elegirá el usuario, tampoco sabemos de que tamaño ha de ser el vector, por ello creamos un puntero ...........
	int tamPagina;
	long long pSuma, nSuma;
	int i;

	// Variables para calcular los tiempos:
	struct timeval t_ini, t_fin;
	double tEjecUno, tEjecDos;



	if( fichero == NULL )
		printf( "Genere el fichero secuencial primero\n" );
	else
	{
		printf( "Al leer un fichero, puede hacerse de dato en dato o mediante la lectura de un conjunto de datos que serán almacenados en memoria y desde donde se leerán.\n" );
		printf( "A continuación deberá de especificar el tamaño de esa memoria o buffer y podrá observar las diferencias de tiempo que existen de leer un fichero de una forma o de la otra.\n" );
		printf( "  Indique el tamaño del buffer: " );
		scanf( "%i", &tamPagina );
		printf( "\n\n" );


		/** INICIO TEST 1: Medición del tiempo leyendo enteros de uno en uno ****************/
			// Se calcula el tiempo al comenzar:
			gettimeofday(&t_ini, NULL);

			pSuma=0;
			nSuma=0;

			fread( &unNumero, sizeof(int), 1, fichero );
			while( !feof(fichero) )
			{

				if( unNumero%2 == 0 )
					pSuma += unNumero;
				else
					nSuma += unNumero;

				//printf( "%i, ",unNumero );
				fread( &unNumero, sizeof(int), 1, fichero );
			};

			// Se vuelve a calcular el tiempo al terminar:
			gettimeofday(&t_fin, NULL);

			// Se calcula el tiempo de diferencia:
			tEjecUno = timeval_diff(&t_fin, &t_ini) * 1000.0;
		/************************************************************************ FIN TEST 1 **/


		// Se regresa al principio del fichero para volver a leerlo:
		rewind(fichero);


		/** INICIO TEST 2: Medición del tiempo leyendo enteros en grupos de "tamPagina" *****/
			// Reservamos la memoria necesaria para el vector:
			vectorNumeros = (int *)malloc(sizeof(int) * tamPagina );

			if( vectorNumeros == NULL )
				printf( "No hay suficiente memoria\n" );
			else
			{
				// Se calcula el tiempo al comenzar:
				gettimeofday(&t_ini, NULL);

				pSuma=0;
				nSuma=0;

				fread( vectorNumeros, sizeof(int), tamPagina, fichero );
				while( !feof(fichero) )
				{
					for( i=0; i < tamPagina; i++ )
					{
						if( vectorNumeros[i]%2 == 0 )
							pSuma += vectorNumeros[i];
						else
							nSuma += vectorNumeros[i];
					};

					fread( vectorNumeros, sizeof(int), tamPagina, fichero );
				};


				// Se vuelve a calcular el tiempo al terminar:
				gettimeofday(&t_fin, NULL);

				// Se calcula el tiempo de diferencia:
				tEjecDos = timeval_diff(&t_fin, &t_ini) * 1000.0;

				// Se libera la memoria del vector
				free(vectorNumeros);
			};
		/************************************************************************ FIN TEST 2 **/


		printf("Leyendo de uno en uno:\t%.3f ms.\n", tEjecUno );
		printf("Leyendo de %i en %i:\t%.3f ms.\n", tamPagina, tamPagina, tEjecDos );
		printf("Usando un buffer de memoria se mejora un %i%% el rendimiento.\n\n", (int)(((tEjecUno/tEjecDos)*100)-100) );
		printf( "  Como vemos en los resultados, usar un buffer de memoria permite que nuestro programa se ralentice menos de lo que lo haría si no usásemos dicho buffer, pues al necesitar menos accesos al fichero evitamos las ralentizaciones producidas por el cuello de botella del disco duro.\n\n" );

		// Se cierra el fichero:
		fclose( fichero );
	};

};


main()
{
	enum opcciones{ generarDAT='1', leerDAT='2', realizarTEST='3' } opc;
	char eleccion;


	// Se imprime y se solicita una opción del menú:
	printf( "Seleccione que desea hacer:\n" );
	printf( " 1. Generar un fichero secuencial\n" );
	printf( " 2. Mostrar el contenido del fichero\n" );
	printf( " 3. Realizar pruebas a partir del fichero\n" );
	do{
		scanf( "%c", &eleccion );
	} while( eleccion < '1' || eleccion > '3' );
	opc = (enum opcciones)(eleccion);


	// Se ejecuta la opción elegida:
	switch( opc )
	{
		case generarDAT:	crearFicheroDeDatos();		break;
		case leerDAT:		leerFicheroDeDatos();		break;
		case realizarTEST:	realizarPruebasDeBuffer();	break;
	};
};

100

101

102

103

104

105

106

107

108

109

110

111

112

113

114

115

116

117

118

119

120

121

122

123

124

125

126

127

128

129

130

131

132

133

134

135

136

137

138

139

140

141

142

143

144

145

146

147

148

149

150

151

152

153

154

155

156

157

158

159

160

161

162

163

164

165

166

167

168

169

170

171

172

173

174

175

176

177

178

179

180

181

182

183

184

185

186

187

188

189

190

191

192

193

194

195

196

197

198

199

200

201

202

203

204

205

206

207

208

209

210

211

212

213

214

215

216

217

218

219

220

221

222

223

224

225

226

227

228

229

230

231

232

233

234

235

236

237

238

239

240

241

242

243

244

245

246

247

248

249

250

251

252

4x09-Buffer_de_memoria

14/01/2012

Una forma de hacer más eficiente el trabajo con ficheros secuenciales es la paginación, método consistente en la utilización de un buffer intermedio de memoria

donde se guarden los siguientes n datos a ser leídos, o donde se escriban los siguientes n datos a ser escritos, en vez de estar interaccionando constantemente

con el disco duro. Los sistemas operativos ya introducen su propio buffer para hacer más ágiles estas operaciones. Se trata de añadir un buffer más sobre el que

tenga pleno control el programador. La forma de implementar esto es que el fichero ya no es de datos, sino de páginas de datos. Lo que se lee y escribe en él es

una página de datos completa. Implementa este tipo de ficheros para el caso de enteros. Haz pruebas de generación y lectura/tratamiento del fichero para diferentes

tamaños de buffer y para un tamaño de fichero considerable y mide el tiempo que cuesta en cada caso, comparándolo con un fichero sin paginación. Junto con el ejercicio

debes entregar una tabla de datos con las mediciones realizadas y las conclusiones que extraes.

#include <stdio.h>

#include <stdlib.h>

#include <time.h>

// Función que crea ficheros secuenciales con números enteros:

void crearFicheroDeDatos()

{

Poscondición:

A partir de un parámetro solicitado al usuario se crean X números enteros, todos ellos se almacenan en un fichero secuencial.

FILE *fichero = fopen("datos.dat","w");

float num;

int numAle;

int i;

// Se genera una semilla de números aleatorios:

srand((unsigned int)time(NULL));

printf( "Indique el tamaño en MiB que quiere que tenga el fichero: " );

scanf( "%g", &num );

for( i=0; i < 250000*num; i++ )

{

numAle = rand()%10000;

fwrite( &numAle, sizeof(int), 1, fichero );

};

printf( "\n Se creo el fichero \"datos.dat\" con %.0f números enteros y un tamaño de %.0f MiB.\n\n", 250000*num , num );

fclose( fichero );

};

// Función que muestra por pantalla el contenido de un fichero secuencial de enteros:

void leerFicheroDeDatos()

{

Precondición:

Es necesario que exista el fichero “datos.dat”

Poscondición:

Se muestra el contenido del fichero por pantalla, si su contenido es desmesurado no podrán mostrarse por pantalla debido a las limitaciones del terminal.

FILE *fichero = fopen("datos.dat","r");

int num, i;

if( fichero == NULL )

printf( "Genere el fichero secuencial primero\n" );

else

{

printf( "Principio del fichero\n\n " );

fread( &num, sizeof(int), 1, fichero );

while( !feof(fichero) )

{

if( i != 20 )

{

printf( "%i, ", num );

i++;

}

else

{

printf( "%i\n ", num );

i=0;

};

fread( &num, sizeof(int), 1, fichero );

};

printf( "\n\nFinal del fichero\n" );

fclose( fichero );

};

// Función para contar el tiempo:

double timeval_diff(struct timeval *a, struct timeval *b)

{

// Fuente: http://goo.gl/JF5v2

return (double)(a->tv_sec + (double)a->tv_usec/1000000) - (double)(b->tv_sec + (double)b->tv_usec/1000000);

};

void realizarPruebasDeBuffer()

{

Precondición:

Es necesario que exista el fichero “datos.dat”

Poscondición:

Se calcula el tiempo que se tarda en hacer las operaciones con los números leídos del fichero de datos de dos formas diferentes,

al primera haciendo lecturas de entero en entero, y la segunda haciendo lecturas en "tamPagina" en "tamPagina".

Las operaciones con los números enteros se basan en la suma de los pares e impares cada uno por un lado. Con los resultados no se hace nada.

FILE *fichero = fopen("datos.dat","r");

int unNumero;

int *vectorNumeros = NULL; // Como no sabemos el "tamPagina" que elegirá el usuario, tampoco sabemos de que tamaño ha de ser el vector, por ello creamos un puntero ...........

int tamPagina;

long long pSuma, nSuma;

int i;

// Variables para calcular los tiempos:

struct timeval t_ini, t_fin;

double tEjecUno, tEjecDos;

if( fichero == NULL )

printf( "Genere el fichero secuencial primero\n" );

else

{

printf( "Al leer un fichero, puede hacerse de dato en dato o mediante la lectura de un conjunto de datos que serán almacenados en memoria y desde donde se leerán.\n" );

printf( "A continuación deberá de especificar el tamaño de esa memoria o buffer y podrá observar las diferencias de tiempo que existen de leer un fichero de una forma o de la otra.\n" );

printf( " Indique el tamaño del buffer: " );

scanf( "%i", &tamPagina );

printf( "\n\n" );

/** INICIO TEST 1: Medición del tiempo leyendo enteros de uno en uno ****************/

// Se calcula el tiempo al comenzar:

gettimeofday(&t_ini, NULL);

pSuma=0;

nSuma=0;

fread( &unNumero, sizeof(int), 1, fichero );

while( !feof(fichero) )

{

if( unNumero%2 == 0 )

pSuma += unNumero;

else

nSuma += unNumero;

//printf( "%i, ",unNumero );

fread( &unNumero, sizeof(int), 1, fichero );

};

// Se vuelve a calcular el tiempo al terminar:

gettimeofday(&t_fin, NULL);

// Se calcula el tiempo de diferencia:

tEjecUno = timeval_diff(&t_fin, &t_ini) * 1000.0;

/************************************************************************ FIN TEST 1 **/

// Se regresa al principio del fichero para volver a leerlo:

rewind(fichero);

/** INICIO TEST 2: Medición del tiempo leyendo enteros en grupos de "tamPagina" *****/

// Reservamos la memoria necesaria para el vector:

vectorNumeros = (int *)malloc(sizeof(int) * tamPagina );

if( vectorNumeros == NULL )

printf( "No hay suficiente memoria\n" );

else

{

// Se calcula el tiempo al comenzar:

gettimeofday(&t_ini, NULL);

pSuma=0;

nSuma=0;

fread( vectorNumeros, sizeof(int), tamPagina, fichero );

while( !feof(fichero) )

{

for( i=0; i < tamPagina; i++ )

{

if( vectorNumeros[i]%2 == 0 )

pSuma += vectorNumeros[i];

else

nSuma += vectorNumeros[i];

};

fread( vectorNumeros, sizeof(int), tamPagina, fichero );

};

// Se vuelve a calcular el tiempo al terminar:

gettimeofday(&t_fin, NULL);

// Se calcula el tiempo de diferencia:

tEjecDos = timeval_diff(&t_fin, &t_ini) * 1000.0;

// Se libera la memoria del vector

free(vectorNumeros);

};

/************************************************************************ FIN TEST 2 **/

printf("Leyendo de uno en uno:\t%.3f ms.\n", tEjecUno );

printf("Leyendo de %i en %i:\t%.3f ms.\n", tamPagina, tamPagina, tEjecDos );

printf("Usando un buffer de memoria se mejora un %i%% el rendimiento.\n\n", (int)(((tEjecUno/tEjecDos)*100)-100) );

printf( " Como vemos en los resultados, usar un buffer de memoria permite que nuestro programa se ralentice menos de lo que lo haría si no usásemos dicho buffer, pues al necesitar menos accesos al fichero evitamos las ralentizaciones producidas por el cuello de botella del disco duro.\n\n" );

// Se cierra el fichero:

fclose( fichero );

};

main()

{

enum opcciones{ generarDAT='1', leerDAT='2', realizarTEST='3' } opc;

char eleccion;

// Se imprime y se solicita una opción del menú:

printf( "Seleccione que desea hacer:\n" );

printf( " 1. Generar un fichero secuencial\n" );

printf( " 2. Mostrar el contenido del fichero\n" );

printf( " 3. Realizar pruebas a partir del fichero\n" );

do{

scanf( "%c", &eleccion );

} while( eleccion < '1' || eleccion > '3' );

opc = (enum opcciones)(eleccion);

// Se ejecuta la opción elegida:

switch( opc )

{

case generarDAT: crearFicheroDeDatos(); break;

case leerDAT: leerFicheroDeDatos(); break;

case realizarTEST: realizarPruebasDeBuffer(); break;

};

el blog de giltesa

4×09: Buffer de memoria con ficheros

Related Posts

Escriba aquí su comentarioCancelar respuesta